AI아나운서 선보인 머니브레인
딥페이크 방지 R&D 이어 AI경진대회 개최
장세영 대표 "기업의 사회적 책임 다해야"

딥페이크가 올해 초에는 가짜 포르노 영상을 만들며 논란이 된 것에 이어서, 미국 대선에서도
가짜뉴스 원인으로 계속해서 꼽힌다. 이에 영상합성 전문기업 머니브레인이 기업의 사회적 책임을 앞세워 딥페이크를 막기 위해 나섰다.

머니브레인은 실재와 차이를 찾기 힘든 인공지능(AI) 아나운서 등 고퀄리티 영상합성 솔루션을 제공하는 기업으로, 가짜 영상을 기술적으로 막기 위해 나섰다.

장세영 머니브레인 대표는 "딥페이크 등 영상 변조와 합성을 악용한 사례가 늘고 있다. 하지만 이런 기술을 탐지하는 기술 연구를 활발하게 이뤄지지 않는 편이다"라고 말했다. 지난 6월 머니브레인은 과학기술정보통신부가 추진하는 ‘딥페이크 변조영상 AI데이터’ 분야 수행 기업으로 선정됐다.

 장세영 머니브레인 대표 /IT조선
장세영 머니브레인 대표 /IT조선
최근에는 변조영상 탐지 분야에 AI전문가의 자발적 참여 촉구를 위해 서울대학교와 함께 딥페이크 등을 탐지하는 AI 경진대회를 열었다.

변조에 쓰이는 AI에 맞서는 기술도 AI다. 특히 단순 얼굴만 바꾸는 딥페이크보다 실제 모델의 음성과 표정 등을 따라 하는 AI기반 영상합성 기술은 더 진짜 모델과 구분하기 힘들다. 이런 영상의 조작 여부는 사람이 하기 힘들지만, AI와 같은 기술은 확인할 수 있는 ‘변조의 흔적’이 있다.

장세영 대표는 "사람의 눈으로 AI가 만든 영상인지 판단하기 쉽지 않다"며 "음성이나 영상에 비(非)가청 주파수를 심어 쉽게 식별할 수 있는 등 사람이 변조한 영상임을 구분할 수 있는 기술을 개발했다"라고 설명했다.

영상합성을 전문으로 하는 기업에서 딥페이크 등 악용 사례를 막기 위해 발 벗고 나선 배경에는 기업의 사회적 책임이 있다.

악용 위험성이 있는 영상합성 기술을 전문으로 하는 기업에 의무라는 설명이다. 장세영 대표는 "기술 발전으로 딥페이크 기술에 관한 수요가 늘었다. AI로 영상합성을 하는 기업으로서 ‘사회 혼란 방지’는 의무다"며 "영상합성 기술 발전이 모든 사람에게 이롭게 활용되길 바란다"라고 밝혔다.

송주상 기자 sjs@chosunbiz.com