AI전문가 "딥 페이크, 해결책 없다"...국내 실상은

송주상 기자
입력 2020.10.19 11:23
영국 인공지능(AI) 전문가가 AI를 통한 영상 합성 기술 ‘딥페이크’의 기술적인 해결책을 찾기가 불가능하다고 주장했다. 최근 딥페이크 방지 솔루션을 내놓기도 한 전문가여서 여파가 상당할 전망이다.

1일 외신에 따르면 마니쉬 아그라왈라(Maneesh Agrawala) 스탠포드대학 컴퓨터과학과 교수가 "딥페이크는 정교해지지만, 이를 알아차리는 탐지 기술은 더 나빠지고 있다"며 "장기적인 관점에서 기술로 (딥페이크를) 해결할 수 없다"라고 설명했다.

그는 이어 "정보 전달 단절 또는 가짜 뉴스 등을 줄이고 알 수 있는 비(非)기술적인 방법에 집중해야 한다"라고 주장했다. 기술적인 해결책보다 미디어 리터러시 함양을 강조한 것이다.

이달 초에는 미국 대선 투표 독려를 위해 김정은 북한 국무위원장을 합성하기도 했다. 해당 영상은 가짜 뉴스 등을 우려해 TV 방영 금치 처분됐다. /유튜브 갈무리
아그라왈라 교수는 올해 입술을 통해 딥페이크를 판단하는 AI기반 솔루션을 선보인 최전방 전문가다. 솔루션은 입술의 움직임과 음성의 정합을 판단해 가짜를 가려낸다. 예를 들어 입술이 붙어야만 하는 ‘B’, ‘M’, ‘P’ 발음에 입술이 붙지 않고 음성이 나오면, 딥페이크로 판단한다.

딥페이크 판별률은 81%에 이르렀지만, 한계가 명확했다. 학습을 하지 않은 모델에 대해서는 정확도가 크게 떨어지는 현상이 관찰됐다.

버락 오바마 전 미국 대통령의 연설을 통해 학습한 경우, 오바마 전 대통령과 관계있는 딥페이크는 90% 이상 판별하는 데 성공했지만, 그렇지 않은 경우는 10%이상 떨어졌다. 여기에 설계상의 한계로 비영어권 영상에 대해서는 사용 자체를 못 한다.

솔루션을 개발한 아그라왈라 교수는 "고의로 허위 사실을 유포하지 못하도록 하는 법률과 딥페이크 등을 통한 가짜 뉴스 피해 복구 가이드라인이 필요하다"라고 강조했다.

국내 딥페이크 처벌은 디지털 성범죄에 초점이 있다. 올해 초 ‘성폭력범죄의 처벌 등에 관한 특례법’이 의결돼, 6월부터 본격적으로 성범죄와 관련된 딥페이크 제작자 처벌에 나섰다. 영리가 목적인 경우, 7년 이하의 징역에 처한다.

반면, 가짜뉴스에 관한 처벌은 없다시피 하다. 법률 전문가는 "처벌할 근거가 없진 않다. 단 법률에 명시되지 않아 법적 시비를 가려야 할 필요가 있다"며 "지금은 판례가 없다"라고 설명했다.

송주상 기자 sjs@chosunbiz.com


T조선 뉴스레터 를 받아보세요! - 구독신청하기
매일 IT조선 뉴스를 받아보세요 닫기