# 일본에서 인공지능(AI)을 활용한 ‘딥페이크’(Deepfake)로 여성 연예인의 가짜 포르노 동영상을 만들어 인터넷에 공개한 대학생과 엔지니어 2명이 처음으로 적발됐다. 이런 유형의 딥페이크 사건이 일본에서 적발된 건 이번이 처음이다. 도쿄도 경시청은 여성 연예인 딥페이크를 제작·공개한 혐의와 명예훼손 및 저작권법 위반 혐의로 이들을 체포했다.

AI를 기반으로 한 첨단 조작 기술인 딥페이크가 사회적 문제로 대두되고 있다. 유명 인사의 얼굴을 넣은 딥페이크 포르노 동영상은 2017년 처음 발견된 이후 인터넷 공간에서 세계적으로 확산하고 있다.

딥페이크(Deep Fake)는 AI 심층 학습 기술인 딥러닝(Deep Learning)과 가짜를 의미하는 페이크(Fake)의 합성어다. 딥페이크는 AI가 대량의 데이터를 학습한 후 원본 콘텐츠 위에 다른 이미지를 합성함으로써 조작된 콘텐츠를 만들어 내는 기술이다. 최근에는 딥페이크와 동일한 메커니즘의 음성합성 기술을 의미하는 ‘딥보이스(Deep Voice)’ 문제도 부각된다.

AI 기반 첨단 조작 기술 콘텐츠 조작 과정은 ▲추출(Extraction) ▲학습(Training) ▲변환(Conversion) 등 세 단계로 진행된다. 우선 콘텐츠 조작을 위해 AI가 학습할 영상, 이미지 등의 데이터를 확보한다. 추출이 완료되면 AI는 딥러닝을 통해 스스로 데이터에 숨겨진 구조와 패턴을 찾아낸다. 이후 학습이 완료되면 원본 콘텐츠를 새로운 콘텐츠로 변환하는 최종 단계가 진행된다.

이러한 조작 과정에서 AI 기반 첨단 조작 기술과 관련된 다양한 법률적 문제가 제기될 수 있다. 이에 이번 칼럼에서는 앞선 사례를 통해 우리나라에서 문제 될 수 있는 법률 쟁점을 살펴보고자 한다.

저작재산권 및 동일성유지권 침해

사례에서 경찰은 저작권법 위반 혐의를 들었다. AI 학습 대상이 된 포르노가 인간의 사상 또는 감정을 표현한 창작물로서 저작물성을 갖춘다면 AI가 해당 콘텐츠를 이용하는 과정 및 생성한 결과물과 관련해 저작권 이슈가 발생할 수 있는 것이다.

데이터 수집 및 추출 과정도 저작권법에 저촉된다. 권한이 없는 자가 저작물인 성인물을 복제하는 것은 저작권법 제16조의 복제권 침해에 해당된다. 다만 저작권법이 보호하는 저작물은 인간의 사상 또는 감정이 표현된 창작물에 한정된다. 즉 AI가 영상물 장면 중 창작성이 인정되는 부분은 제거하고 연예인의 눈, 코, 입에 해당하는 일부분만 복제한다면 해당 영상에 대한 저작권 침해는 인정되지 않을 수 있다.

학습과정에서의 복제는 논쟁거리가 될 수 있다. AI는 데이터를 수집·추출한 후 이를 복제하는 학습 과정을 거친다. 그러나 AI는 저작물 자체가 아닌 데이터의 구성요소를 분석한다. 이를 이유로 구성요소의 저작권을 따로 인정하지 않는 한 학습 과정을 저작물에 대한 복제로 보기는 어렵다.

복제에 해당한다 보더라도 저작권법은 제35조의2에서 ‘컴퓨터에서 저작물을 이용하는 경우에는 원활하고 효율적인 정보처리를 위하여 필요하다고 인정되는 범위 안에서 그 저작물을 그 컴퓨터에 일시적으로 복제할 수 있다’고 명시돼 있다. 저작물 이용과정에서의 일시적 복제를 허용하고 있는 것이다. 따라서 AI 학습과정에서 일어나는 복제는 저작권법상 일시적 복제로서 면책될 수 있다.

다만 위 사례처럼 만약 AI를 이용해 딥러닝 학습과정을 일종의 서비스로서 영리적으로 이용하는 경우, 저작권법 제35조의2 단서에 따라 저작권을 침해하는 것으로 볼 수도 있다.

또 데이터 추출 및 학습과정상 저작권 침해가 인정되지 않더라도 AI가 생성한 결과물이 원저작물과 실질적 유사성을 갖는다면 해당 결과물은 원저작자의 저작권을 침해한 것으로 볼 수 있다.

이때 AI가 조작한 결과물이 새로운 창작성이 인정되지 않고 성인물의 사소한 개변에 불과한 경우라면 단순한 복제물에 해당한다. 즉, 저작권법 제16조의 복제권 침해가 된다. 통상적으로 딥페이크 행위 자체는 새로운 창작성이 인정되기 어려우므로 복제권 침해만 문제 될 것이다. 여기에 조작된 영상에 나타난 연예인의 음성, 모습, 동작 등이 새로운 창작성을 더한 것으로 인정된다면 저작권법 제22조의 2차적저작물작성권 침해도 될 수 있다.

여기에 조작된 저작물 중 연예인의 출연 장면이 원저작물의 주요한 부분에 해당해 저작물의 본질적인 부분을 훼손, 변경한 것으로 인정되면 저작권법 제13조에 따라 원저작자의 동일성유지권 침해가 될 수 있다.

초상권·퍼블리시티권·개인정보보호법 위반

위 사례에서 저작권 침해와 별도로 연예인의 초상권과 퍼블리시티권 침해 문제 또한 발생할 수 있다. 퍼블리시티권은 아직 명문의 법규정이나 대법원 판례로서 인정되지는 않았지만, 연예인의 초상을 상업적으로 이용한 경우라면 부정경쟁방지법 제2조 제1호의 부정경쟁행위로 인정될 수 있다. 또한 이용된 사진이 그를 알아볼 수 있는 정보에 해당한다고 인정될 경우는 개인정보보호법 위반의 문제도 생길 수 있다.

AI가 연예인 얼굴을 합성한 이른바 딥페이크 포르노를 유포한 경우, 정보통신망법상 명예훼손죄와 음란물유포죄로 형사처분이 가능하다.

특히 성폭력처벌법 제14조의2 허위영상물 반포죄는 딥페이크 범죄를 처벌하기 위해 지난해 신설된 조항이다. 해당 조항은 ‘반포 등을 할 목적으로 사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물 또는 음성물을 영상물 등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공한 자’를 벌하고 있다. 이 조항은 영상물뿐 아니라 음성물도 명시하고 있다. 즉, 딥페이크뿐 아니라 딥보이스를 이용한 성범죄 처벌도 가능하다.

위와 같은 권리 침해가 인정되는 경우 침해자의 특정 또한 문제 될 수 있다. 현행법상 AI 자체는 법인격이 없기 때문에, 데이터를 입력하는 등 인공지능을 도구로 삼아 이를 이용하는 자가 침해에 관한 책임을 져야 한다. 또 AI가 아무런 명령이나 입력 없이 스스로 성인물 제작사를 비롯한 제3자의 저작물을 침해하는 경우는 AI를 개발한 자도 책임을 져야 할 수 있다.

AI 기반 첨단 조작 기술이 영상 기술에 이용돼 각종 산업의 발전을 이끄는 등 긍정적인 변화를 가져오고 있지만 한편으로는 저작권 침해, 기타 범죄 문제 등 기술 발전에 따른 문제점도 적지 않게 발생하고 있다. AI 기술 진화 속도에 맞는 법적 대응을 마련하는 등 제도적 보완과 이를 개발하고 이용하는 자들의 윤리의식이 필요한 시점이다.

이예희 디케이엘(DKL)파트너스 법률사무소 변호사

※ 외부필자의 원고는 IT조선의 편집방향과 일치하지 않을 수 있습니다.

DKL파트너스 법률사무소는 널리 혁신기업을 이롭게 한다는 미션을 갖고 설립된 부띠크 로펌입니다. 콘텐츠IP, 블록체인IT, 벤처스타트업 투자 M&A 등 3가지를 전문 분야로 다루고 있습니다. 블록체인, 인공지능, 빅데이터 등 4차산업혁명 기술 분야의 혁신 기업에 도움이 될 수 있는 주제를 선정, 해당 주제와 관련한 지식을 전문 변호사가 설명합니다.