[2020 키워드 #20] 딥페이크(Deepfake)

입력 2020.01.21 06:00

① AI+X ② 5G생태계 ③ CDO(최고디지털전환책임자) ④ 모빌리티 ⑤ CBDC(중앙은행 디지털 화폐) ⑥ 클라우드+ ⑦ 게임 구독·스트리밍 ⑧ M&A ⑨ X테크 ⑩ 뉴 디바이스 ⑪ 셰어링(Sharing) ⑫ 공간(Space) ⑬ 버추얼(Virtual) ⑭ 리질리언스(Resilience) ⑮ 딥페이크(Deepfake)

2019년 6월 여성 사진을 넣으면 이를 누드 사진으로 바꿔주는 앱인 딥누드(DeepNude)가 등장했다. 앱 개발자는 1만장 이상 여성 누드 사진을 사용해 딥페이크 알고리즘을 학습시켰다. 이 앱 등장에 초상권 침해와 윤리적 비판 등 비난이 폭주했다. 결국 하루 만에 앱은 사라졌다.

같은 시기, 미국 하원에서는 딥페이크로 만든 가짜 뉴스 위험성을 주제로 한 최초의 청문회가 열렸다. 올해 미국 대선을 앞두고 가짜 동영상이 심각한 문제로 부각할 수 있다는 점이 예고된 셈이다.

딥페이크란 허위 동영상 콘텐츠를 만들거나 변형하는데 사용되는 AI기반 기술을 의미한다. 진짜처럼 보이는 가짜 동영상 콘텐츠를 가리키기도 한다. 신경망을 이용하는 딥러닝(심층학습)의 딥(Deep)과 가짜(Fake)의 합성어다. 이제 동영상이나 사진을 있는 그대로 믿기가 어려운 시대가 됐다.

다른 사람 얼굴을 교묘하게 합성해 만든 딥페이크 영상./ 페이스북 홈페이지 갈무리
딥페이크는 생성적 적대 신경망(Generative Adversarial Networks) 기술을 이용한다. 이미지 진위여부를 판단하는 감별자 알고리즘과 이미지를 만들어내는 생성자 알고리즘을 동시에 돌려 원본과 가짜 이미지 간 유사도 오차를 줄이는 방식이다.

딥페이크 기술은 날로 발전을 거듭한다. 이전까지 딥페이크를 만드는 데에는 수많은 영상과 사진 데이터가 필요했다. 최근에는 사진 한 장만 있어도 사진 속 인물이 말하는 것 같은 동영상을 만드는 것도 가능하다.

"진실은 사라졌다"…사회·경제 등 우리 생활에 가장 큰 문제거리
앞서 미국에선 2016년 대선에 페이스북 등 소셜미디어를 통해 유포되는 가짜뉴스에 홍역을 치렀다. 2018년 미국 온라인 매체 버즈피드가 공개한 영상은 딥페이크 영상이 어떻게 정치에 악용될 수 있을지를 보여줬다. 버즈피드가 조작한 해당 영상은 버락 오바마 전 미국 대통령은 "트럼프 대통령은 완전히 머저리다"라고 말하는 모습이 담겼다.

콘텐츠 업계도 딥페이크에 우려가 크다. 일본에서 ‘천년아이돌' 별명을 얻은 하시모토 칸나는 딥페이크 기술로 제작된 중국발 페이크 포르노 콘텐츠로 한바탕 홍역을 치뤘다. 이들 페이크 포르노는 포르노허브와 X비디오즈 등 포르노 전문 사이트를 통해 급속히 퍼졌다.

페이크 포르노 문제는 이미지 관리가 중요한 연예·엔터테인먼트 분야에서 큰 문제로 다가온다. 할리우드는 물론 케이팝 아이돌에 이르기까지 대상 폭이 넓어졌다.

딥페이크 영상을 추적하는 딥트레이스에 따르면 2018년 12월 기준 7964개였던 딥페이크 비디오는 2019년 9월 기준 1만4698개로 증가했다.

업계는 딥페이크로 인해 가짜라는 사실을 판별하기가 너무도 어렵다고 지적한다. 진실과 거짓 사이에서 혼동이 생길 수밖에 없다. 딥페이크가 민주주의를 위협한다고 경고한다. 또 경제에도 심각한 위기를 끼칠 수 있다고 우려한다. 개인을 상대로 한 악의적인 딥페이크 영상은 다른 이의 모든 걸 송두리째 앗아갈 수도 있는 위험요소다.

해니 파리드 UC 버클리 대학 전기공학 및 컴퓨터과학과 교수는 "정보시대에서 지식시대로 전환하는 시기에는 이용자들도 누군가의 의존 없이도 믿을만한 콘텐츠인지 스스로 판단할 수 있어야 한다"며 "콘텐츠 진위여부를 구분하는 기술 개발에 업계와 대학 등 관련 기관 모두가 관심을 기울여야 한다"고 말했다.

구글·페이스북 등 IT업계 ‘화들짝’대응책 마련 고심

구글과 페이스북 등 IT업계가 딥페이크 대응방안을 잇따라 내놓는 이유다. 날로 발전하는 기술 속도에 발맞춰 IT업계가 대응책을 마련해야 한다는 사회적 목소리에 직면했기 때문이다. 소셜미디어를 통해 가짜뉴스와 딥페이크 영상 등이 유포되면서 그에 맞는 책임을 져야 한다는 지적이 나온다.

구글은 지난해 9월 딥페이크 방지 기술을 연구하는 연구팀에 데이터를 제공하겠다고 밝혔다. 구글이 공개한 3000개 데이터는 배우 28명이 다양한 각도에서 움직임을 찍은 영상을 조작해 만든 것이다.

페이스북은 올해 딥페이크 탐지 챌린지(Deepfake Detection Challenge)를 개최할 계획이다. 챌린지에는 마이크로소프트(MS), 아마존 등 IT기업과 MIT, 옥스포드대학, 버클리대학 등이 함께해 연구를 지원한다. 페이스북은 이용자 동의를 받아 데이터를 제공한다. 각국 AI연구자들은 누가 더 정확하게 딥페이크 영상을 탐지해내느냐를 두고 겨루게 된다.

어도비도 업계와 학계 손을 잡고 딥페이크 연합전선을 구성했다. 지난해 11월 어도비는 뉴욕타임스(NYT), 트위터와 함께 콘텐츠 진위 이니셔티브(Contents Authenticity Initiative)를 발족했다고 밝혔다.

어도비는 딥페이크 탐지기술도 개발했다. 최근 콘텐츠 제작자와 게시자가 공유할 콘텐츠에 저작자 정보를 표시할 수 있는 ‘옵트 인(Opt-in)’ 방식 시스템을 개발하고 있다. 콘텐츠 제작자가 유포 전 자신의 콘텐츠임을 확인할 수 있는 표시를 부여하면 이용자는 이 표식을 통해 진짜 콘텐츠라는 것을 믿고 이용할 수 있다. 또한 어도비는 이미지 중 조작된 부분을 발견해 원본으로 복원하는 프로젝트 어바웃 페이스(project about face)라는 기술도 개발했다.
어도비 측은 "콘텐츠 진위여부를 확인하는 것은 플랫폼과 콘텐츠 기술기업, 미디어 회사 모두의 책임이다"라며 "소비자가 누구와 무엇을 믿어야 하는지 알 수 있도록 생태계를 구성하는 것이 목적이다"라고 말했다.


키워드