인공지능(AI) 기술이 만든 딥페이크 영상을 AI가 잡는다. 딥페이크는 성범죄 등에 사용되며 논란이 컸는데, 국내 AI 기업이 딥페이크 영상을 판별하는 AI 모델을 출시해 주목을 끈다.

AI 기업 머니브레인이 딥페이크 영상을 검증할 수 있는 AI 모델 ‘디텍트딥페이크에이아이(디텍트AI)를 출시했다고 29일 밝혔다.

./머니브레인
./머니브레인
지금까지 딥페이크 영상은 사회적인 파장에 비해 분석 도구가 부족했다. 실제로 지난 2016년 미국 대통령 선거는 딥페이크 기술을 악용한 가짜 뉴스가 SNS(사회관계망서비스)로 퍼지며 큰 논란이 일었다.

디텍트AI는 딥페이크 영상 판독률이 90%에 이를 만큼 뛰어나다. 10개의 딥페이크 영상 중 9개를 가려내는 것이다. 이는 지난해 12월 페이스북이 공개한 딥페이크 영상 판독률 82%보다 높은 수치다.

디텍트AI의 뛰어난 판독률은 다양한 데이터를 학습한 덕분이다. 디텍트 AI는 독일 뮌헨공대 등이 제공하는 ‘페이스포렌식(FaceForensics)’과 아마존, 페이스북, 마이크로소프트가 만든 ‘딥페이크 탐지 챌린지(DFDC)’데이터를 학습했다.

머니브레인은 추가로 동양인 위주로 구성된 데이터셋 KoDF를 자체 수집, 개발해 디텍트AI 고도화를 꾀했다. 앞선 페이스포렌식과 DFDC는 주로 서양인 위주로 구성돼 국내 실정에 맞지 않았다.

장세영 머니브레인 대표는 "디텍트AI 출시로 딥페이크 영상으로 인한 피해를 최소화하고 딥페이크 기술이 긍정적인 방향으로 발전하길 바란다"며 "딥페이크에 관한 사회적 우려가 해소돼 딥페이크 콘텐츠의 활약을 기대한다"고 말했다.

송주상 기자 sjs@chosunbiz.com


키워드