미국 플로리다주 올랜도 시 경찰 당국이 시범적으로 운영 중인 아마존의 인공지능(AI) 기반 얼굴인식 시스템을 더는 사용하지 않겠다는 뜻을 18일(현지시각) 밝혔다.
올랜도 시 경찰 당국과 아마존은 지난해 아마존의 클라우드 기반 AI 영상 및 이미지 분석 솔루션 ‘리커그니션(Rekognition)’을 활용한 얼굴인식 시스템의 시범 운영을 시작했다.
이러한 사실은 지난해 5월 미국 캘리포니아에 기반을 둔 미국 시민 자유 연맹(American Civil Liberties Union, ACLU)이 확보한 문서를 통해 처음으로 드러났다. 아마존이 2017년부터 올랜도 시 및 오레곤주 워싱턴 카운티 경찰과 비공개 계약을 맺고 클라우드 기반 AI 얼굴 인식 플랫폼을 제공했다는 것. ACLU 측은 이러한 AI 기반 영상 감시 시스템이 각종 인권 침해, 불법 감시는 물론, 특정 인종 차별 등에 악용될 수 있다며 관련 시스템 및 서비스의 철회를 요구해왔다.
올랜도 시 경찰이 시스템 도입을 포기하기로 한 것은 각종 반대 여론과 더불어 시범 운영 결과가 만족스럽지 못했기 때문이다. 지역 매체 올랜도 위클리에 따르면 시 경찰 당국은 지난해 10월 경찰본부 주변 4대의 카메라와 커뮤니티 레크리에이션 센터 외부의 카메라 1대를 활용해 얼굴 인식 시스템의 2차 시범 운영을 진행했다.
하지만 설치된 카메라의 해상도가 낮아 선명한 사진 확보가 어렵고, 네트워크 성능이 실시간 영상감시 시스템을 운영하기에 부족한 것이 발목을 잡았다. 아마존은 이 문제를 해결하기 위해 카메라 및 관련 시스템 공급을 제안했지만 시 당국은 이를 거절한 것으로 알려졌다.
또한, 최근 연구에서 아마존의 얼굴 인식 AI가 데이터 편향으로 피부색이 어두운 사람이나 여성의 얼굴 및 성별 인식 능력이 떨어지는 것으로 드러나면서 기술 자체의 신뢰성도 도마 위에 올랐다.
아마존은 올랜도 시 당국의 도입 포기에 대해 별다른 공식 입장을 밝히지 않았다. 다만 AI 기반 얼굴 인식 솔루션의 개발과 판매는 계속할 방침으로 알려졌다. 또 다른 구매자로 밝혀진 워싱턴 카운티 경찰은 여전히 아마존 AI 얼굴 인식 시스템을 사용 중이다.
미국 내에서 얼굴 인식 기술에 기반한 감시 시스템 도입에 반대하는 움직임은 계속 확산 중이다. 최근 캘리포니아주 오클랜드 시 의회는 AI 기반 얼굴 인식 기술 사용 금지 조례를 만장일치로 통과시켰다. 앞서 같은 주의 샌프란시스코와 매사추세츠주 서머빌도 비슷한 결정을 내린 바 있다.