인공지능(AI) 기술 발달 때문에 인터넷에 본인 사진을 공유하는 것이 위험할 수 있다는 진단이 나왔다. 인공지능(AI)으로 이미지를 생성하는 기술 악용에 우려가 커지는 셈이다.
일례로 아스테크니카는 AI 이미지 생성기 ‘스테이블 디퓨전’로 가상의 초등학교 교사 ‘존(사진)’이 직접 촬영한 자신의 일상 사진 7장을 만들었다. 이를 AI가 학습하고 재생산하면 가상의 인물 존이 마약 등 불법행위나 부도덕한 행동을 하는 것처럼 연출된 사진을 제작하게 된다. 존을 중세 기사나 우주 비행사처럼 만들수도 있고, 나이·체중·의상도 설정할 수 있다. 교실에서 옷을 탈의하거나 삐에로 처럼 분장도 손쉽다.
실제 구글의 맞춤형 이미지 생성 AI 모델 ‘드림부스(Dreambooth)’와 구글 클라우드 컴퓨팅 서비스를 이용하면 손쉽게 딥페이크 이미지를 무료로 만들 수 있다. 해당 모델을 활용하면 학습에 1시간, 생성에 수 시간이 걸린다.
구글 드림부스는 3~5개의 이미지와 텍스트를 입력하면 사실적인 합성 이미지를 만들어내는 텍스트-이미지 생성모델이다. AI가 다양한 피사체 이미지를 학습해 상황에 맞게 피사체를 미세 조정하는 식으로 새로운 이미지를 만들어낸다. 아스테크니카는 이 과정이 포토샵으로 합성하는 것보다 훨씬 쉽다고 강조했다.
아스테크니카는 "현재 합성 이미지는 아직 완벽하지 않고 진위를 가릴 수 있는 수준이다"라면서도 "하지만 합성 이미지가 누군가의 명예를 훼손할 수 있다"고 우려했다. 이어 "이미지 생성 기술이 빠르게 발전하고 있어 합성 이미지와 실제 사진을 구별하는 것이 불가능해질 수 있다"며 "현재 이를 막을 방법이 마땅히 없는 점은 문제다"라고 지적했다.
변인호 기자 jubar@chosunbiz.com