'뛰는 놈 위에 나는 놈' 얼굴 인식 AI 차단하는 AI 등장

송주상 기자
입력 2020.08.07 06:00
인공지능(AI) 기반 얼굴 인식 기술은 개인정보를 위협하는 가장 위험한 기술로 꼽힌다. 일부 기업은 SNS 등 네트워크의 다양한 이미지에서 추출한 얼굴 데이터를 활용하거나 판매하는 경우도 있다. 이런 가운데 얼굴 인식 인공지능(AI)을 막는 AI가 등장해, 주목된다.

시카고 대학 샌드랩(Sand Lab)은 AI를 막는 AI ‘포크스(Fawkes)’를 개발했다. 영화 ‘브이 포 벤데타’에 등장하는 가면에서 따온 이름으로, 같은 사람을 동일인으로 판단하지 못하도록 방해한다.

영화에 등장하는 ‘가이 포크스’ 가면은 익명성을 의미하기도 한다. /영화 갈무리
방식은 간단하다. 사진과 함께 포크스를 실행하면 된다. 사진 크기에 따라 편차가 있지만, 수초 내에 결과물이 나온다. 결과물은 포크스가 약간의 변화를 가한 사진이다.

신기하게도 인간은 큰 변화를 체감하기 힘들다. 색감 등 변화가 느껴지기도 하지만, 대체로 원본과 차이가 거의 없다.

포크스는 사진에 아주 작은 변화를 주고, 미래에 이미지를 인식하는 AI를 속인다. 얼굴 인식 AI는 이마, 광대 등 안면에서 중요한 특징점을 중심으로 데이터를 수집한다. 즉 AI가 특징점에 차이가 있다고 판단하면, 인간에게는 같은 사람으로 보여도 다른 사람으로 인식한다.

연구진은 이를 ‘클로킹’이라고 부른다. 성능 좋은 투명 마스크를 사진에 씌워주는 셈으로 무차별적인 웹 크롤링을 통한 얼굴 정보 탈취를 막을 수 있다.

AI 포크스 원리. 얼굴에서 중요한 특징에 약간의 변화를 준다. /샌드랩
연구진은 자신들의 AI가 마이크로소프트 애저 페이스 API, 아마존 레코그니션, 중국의 페이스++(Face++)을 상대로 100% 속였다고 주장했다. 유명 얼굴 인식 AI 모델도 포크스를 사용한 사진은 제대로 인식하지 못한다는 것이다.

포크스로 나온 결과물(오른쪽). 원본과 거의 차이가 없다. /샌드랩
개발진은 "호크스는 얼굴 인식 AI 모델을 잘못된 학습을 하게 한다"며 "트로이 목마처럼 속인 것"이라고 주장했다.

송주상 기자 sjs@chosunbiz.com


T조선 뉴스레터 를 받아보세요! - 구독신청하기
매일 IT조선 뉴스를 받아보세요 닫기