“AI가 사람 흉내 낸다”… 올트먼 ‘복제 사기’ 시대 경고

샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI) 기술이 사람의 음성과 영상까지 정교하게 모방할 수 있는 수준에 이르렀다며 ‘사기 위기(fraud crisis)’가 현실로 다가오고 있다고 경고했다.

22일(현지시각) 미국 CNN에 따르면 올트먼 CEO는 이날 연방준비제도(Fed)가 주최한 행사에서 “일부 금융기관이 여전히 음성인식(voice print)을 송금이나 인증 수단으로 사용하고 있다는 사실이 매우 우려스럽다”고 말했다.

그는 “사용자가 특정 문장을 말하기만 해도 인증이 완료되는 시스템이 여전히 존재한다”며 “AI는 비밀번호를 제외한 대부분의 기존 인증 방식을 이미 무력화시켰다”고 지적했다.

올트먼은 “지금은 음성 통화 수준이지만 머지않아 현실과 구별이 어려운 영상 통화·페이스타임까지 모방할 수 있게 될 것”이라며 “오픈AI는 이러한 모방 기술을 직접 개발하진 않지만 전 세계가 곧 마주하게 될 도전”이라고 덧붙였다.

AI 기술을 악용한 ‘복제 사기(cloning fraud)’ 우려는 올트먼이 처음 경고한 것이 아니다. 미국 연방수사국(FBI)도 지난 2024년 유사한 경고를 내놓은 바 있다. 실제로 AI로 생성된 자녀의 음성을 이용해 부모에게 금전을 요구한 보이스피싱 사례도 다수 보고됐다.

7월 초에는 한 인물이 미국의 마코 루비오 국무장관을 사칭해 AI로 합성한 음성과 문자 메시지를 외국 외무장관, 주지사, 연방 의원 등 최소 5명에게 보낸 사건이 발생하기도 했다.

윤승준 기자
sjyoon@chosunbiz.com