개인정보를 무단 사용했다는 의혹을 받는 AI 서비스 이루마로 AI를 규제해야 한다는 목소리가 크다. 최근에는 남자 아이돌의 음성을 합성한 음란물 ‘섹테’까지 등장하며 AI가 동네북 신세로 전락했다.
하지만 전문가들 사이에서는 섹테를 만들 때 AI 기술을 사용하지 않은 것으로 본다는 평가가 나온다. 주위에 만연한 AI에 대한 공포가 AI 산업 발전 저해로 이어지도록 유도하는 악성 루머라는 것이다.
1월 초 청와대 청원 등을 통해 알려진 섹테 제작에는 화면합성 기술 딥페이크의 음성 버전인 ‘딥보이스’가 활용됐다는 주장이 있었다. AI 기술을 활용해 음란물을 만들었다는 것이다. 일부 섹테는 유료로 판매된 것으로 나타나 사회적 파장을 남겼다.
익명을 요구한 이 개발자는 "섹테의 음성 합성 수준은 단순하다"며 "포토샵을 활용해 사진을 합성했다고 해서 딥페이크로 보기는 어렵다"고 말했다. 음성합성 수준이 낮아 AI가 사용됐다고 보기 힘들다는 것이다.
딥보이스는 특정 인물의 실제 목소리를 배운 AI가 인물이 말하지 않는 발언도 만들어내는 기술이다. 국내에서도 보이스피싱 등에 활용된 것으로 알려졌으며, 2019년 영국의 한 에너지 기업은 AI 보이스피싱으로 22만유로(2억9000만원)의 피해를 보기도 했다.
섹테가 AI 시장을 향한 편견을 더욱 확장시킬 수 있다는 지적도 나온다.
한 개발자는 "섹테의 완성도만 가지고 음성합성 AI가 사용됐는지 확신할 수는 없지만, 설사 AI 기술이 활용됐다고 해도 AI가 문제라는 식의 생각은 위험할 수 있다"고 말했다.
하태경 국민의힘 의원은 19일 경찰에 섹테 관련 수사를 의뢰하며 "AI 기술 활용 여부는 확인되지 않았다"며 "기술 활용 여부는 처벌과 관계없다"고 말했다. AI 기술과 관계없이 섹테가 성착취 등 불법 음란물이라는 것이다.
AI에 대한 대중의 정확한 이해가 필요하다는 평가도 있다.
전창배 한국인공지능윤리협회 이사장은 "합성물이나 조작물에 모두 AI가 사용되는 것이 아닌데, 일반인은 AI가 사용된다고 이해하는 경향이 있다"며 "AI 시대에는 이용자의 AI 이해도가 중요하다"고 말했다.
한국인공지능윤리협회가 발표한 윤리헌장에 따르면, AI 소비자(이용자)는 AI 제품과 서비스를 타인을 해치거나 범죄의 목적으로 사용해서는 안 되며, 올바른 방법으로 사용해야 한다.
송주상 기자 sjs@chosunbiz.com