[대학생 이슈 리포트 2019] GAN: 감쪽같은 가짜, 어디까지 허용해야 하나

  • 황지후 연세대 ISSU 학회원
    입력 2019.12.31 07:05 | 수정 2019.12.31 08:47

    4차 산업혁명 시대의 미래를 이끌어가야 할 대학생들은 이 시대의 기술 요소를 어떻게 받아들이고 있을까. 연세대학교 IT경영학회인 ISSU(Information System SIG of Undergraduate) 학회원들이 한 학기 동안 4차 산업혁명 시대 주요한 기술 요소를 주제로 스터디를 진행했습니다. 대학생의 시선에서 바라본 기술의 현재와 고민을 살펴보기 위해 최대한 제출된 원본 그대로를 전달합니다. 상반기에 이어 진행한 ‘대학생 이슈 리포트 2019’ 하반기 편은 총 6회를 소개합니다. [편집자주]

    오프라인 매장의 히든카드, O2O커머스
    사람을 닮아가는 AI음성 비서
    GAN: 감쪽같은 가짜, 어디까지 허용해야 하나
    AI면접: 현재와 미래 방향성
    시민과 함께하는 스마트 시티
    인공지능이 그린 그림, 저작권 누구에게

    ◇ 모델료, 저작권료 모두 0원

    인터넷에 10만 장이 넘는 인물 사진이 배포됐다. 다양한 인종과 나이대의 인물 사진으로, 모든 사람들이 자유롭게 쓸 수 있다. 이 사진들은 놀랍게도 실제 사람이 아닌 AI 기술로 만들어낸 가상 인물이다. 해당 사진들은 실제 인물 사진과 전혀 다른 점이 없을 만큼 실존 인물과 비슷하다. 모델료와 저작권료 모두 0원이라는 점에서도 주목받는다.

    AI 기술로 만들어낸 가상 인물 사진. / generated.photos 갈무리
    ◇ GAN 기술 개념 및 활용 사례

    어떻게 하면 이렇게 정교하고 진짜 같은 사진이 나오는 것일까? Generative Adversarial Network(GAN)이라는 머신러닝 기술은 실제에 가까운 거짓 데이터를 생성한다. 두 가지 모델의 경쟁을 통해 끊임없이 학습하고 결과물을 만들어 내는데, 이는 학습 과정이 반복될수록 점점 더 실제에 가까운 거짓 데이터를 만들 수 있다. 일본 테크 기술 회사 DataGrid에서는 이 인공지능(AI) 기술 출시 후 GAN 방식을 통해 Generated Photos라는 결과물을 도출해냈다.

    GAN 기술로 만들어진 ‘가짜’ 사진은 다양한 곳에서 활용되고 있다. Image translation은 구체적인 사진을 특정 지정된 스타일로 새로 이미지를 생성하는 기술로, GAN을 적용해 놀라운 기술로 거듭나고 있다. 흑백사진을 컬러사진으로 변경하는 것은 물론, 간단한 일러스트만으로 정교한 디테일로 이뤄진 사진을 탄생시킨다. 원하는 사진을 모네 화풍의 그림으로, 혹은 반대로 모네의 그림을 사진으로 변환시키는 것도 가능하다. 얼룩말의 사진에서 얼룩무늬를 지워 말로 바꾸고, 여름 배경의 사진을 겨울 분위기의 전혀 다른 사진으로 만들어 낸다.

    Image Translation을 적용한 각종 사례. / arxiv.org 갈무리
    2018년에 페이스북에서 개발한 Real Eye Opener 또한 GAN을 통해 새로 만들어낸 기술이다. 사진을 찍다가 실수로 눈을 감아 버린 경험 누구나 있을 것이다. 해당 기술은 눈을 감은 사진에 가짜 눈을 만들어내 눈을 뜨고 있는 사진으로 변화시킨다. GAN 기술로 얼굴에 눈을 합성해 ‘진짜’ 같은 ‘가짜’ 사진을 만들어 낸다. 단순히 포토샵을 이용해 눈을 합성시킨 것보다 훨씬 더 자연스러울뿐더러, 실제 사람의 사진과 분별이 힘들 정도로 유사하다.

    Real Eye Opener 적용 예시. / techcrunch 갈무리
    ◇ GAN 기술 악용 사례

    위와 같은 사례들을 보면 GAN 기술은 이미지 생성에 있어 많은 도움을 준다. 하지만, 악용될 우려도 있다. 점점 더 정교하게 실제와 비슷해지면서, GAN 기술은 이미지뿐만 아니라 영상에도 활용되고 있다.

    2017년 워싱턴대학교 연구팀이 합성한 ‘오바마 전 미국 대통령의 가짜 영상’은 큰 화제였다. 워싱턴대학교 연구팀은 오바마 대통령의 실제 연설에서 음성을 추출한 후, 해당 음성에 맞게 입 모양을 생성하도록 GAN 기술로 ‘가짜’ 영상을 만들었다. 만약 가짜 영상이 정치적으로 부적절한 발언이 포함돼 유출된다면, 사람들은 진짜와 가짜에 대한 판별력 없이 혼돈될 가능성이 크다. 입모양과 음성만 추출할 수 있다면 얼마든지 거짓 정보를 만들어 낼 수 있다. 이는 정치인을 비롯한 수많은 공인뿐만 아니라, 모든 사람들에게도 정보를 조작당할 수 있다는 우려가 퍼지고 있다. 이뿐만이 아니다. GAN 기술로 음란물에 연예인 얼굴을 입히는 포르노그래피도 큰 이슈다. GAN 기술로 특정 연예인의 목소리와 얼굴, 입모양까지 합성시켜, 실제 영상이라 믿을 수 있을 만큼의 퀄리티로 성적 모욕감을 일으킬 것이라 예상되고 있다.


    GAN 기술로 만든 ‘가짜’ 오바마 대통령 영상 중 일부. / extremetech 갈무리
    ◇ 기술의 부상과 우려점에 대한 대비 방안

    GAN 기술처럼 최근 급진적으로 발전하는 AI 기술의 부상과 우려점으로 많은 기업들이 이에 대비하는 방안을 내놓고 있다. 대부분의 기업이 점점 윤리성에 맞춰가는 추세이다. 윤리적인 문제뿐만 아니라, 수많은 부정적인 악용에 대한 우려가 늘면서 글로벌 IT 기업들은 AI 윤리 규범을 내놓고 있다. 마이크로소프트가 2017년 내놓은 자사의 AI 연구 인력을 위한 ‘AI 디자인 원칙’과 ‘AI 윤리 디자인 가이드’가 대표적이다. 이를 뒤이어 수많은 기업이 동참하고 있다. 국내 기업 중에서는 카카오의 ‘알고리즘 윤리 헌장’이 있으며, 기술 부상과 함께 우려에 대처해나가는 모습을 보여주고 있다.

    GAN 기술은 악용 가능성이 충분히 발생할 수 있다. 진짜와 가짜에 대한 판별력이 없는 사람들에게 혼란을 주며, 실제와 구별하기 어려울 정도의 정교함을 가진 뛰어난 기술이기 때문에 많은 시행착오가 예상된다. 하지만 혁신적인 이 기술은 충분히 주목할만한 이슈로 많은 사람들이 관심을 가지고 있다. 기업뿐만 아니라, 국가도 피해를 방지할 수 있는 정확한 기준이 포함된 정책과 법규를 통해 도움을 주는 AI 기술로 발전시켜가기를 기대해본다.


    키워드