“AI 브라우저, 고전 사기 수법에도 무방비…사기에 더 취약”

생성형 AI가 사진 한두 장만으로 딥페이크 영상을 제작할 수 있다는 사실은 이미 알려져 있다. 그런데 최근에는 AI 자체가 사기에 속아 이용자를 위험에 빠뜨릴 수 있다는 지적이 나왔다. 사람이면 쉽게 눈치챌 단서가 있어도 AI는 이를 무시하기 때문이다.

21일 엔가젯 등 외신 보도에 따르면 보안 스타트업 가디오(Guardio)는 ‘사기의 복잡성(Scamlexity)’ 보고서를 통해 AI 에이전트 브라우저가 보안에 취약하다고 분석했다. AI 브라우저가 사기에 걸릴 위험이 인간 이용자보다 크다는 의미다.

가디오 연구원들은 AI 브라우저가 웹사이트 제작이나 여행 계획 같은 복잡한 작업을 수행할 수 있다고 인정하면서도, 이용자 대신 인터넷을 탐색하기 때문에 뻔한 함정에도 잘 걸린다는 가설을 세웠다. 가디오는 이를 검증하기 위해 상용화된 유일한 AI 에이전트 브라우저로 꼽히는 퍼플렉시티의 ‘코멧(Commet)’을 사용했다.

실험 과정에서 가디오는 다른 AI로 가짜 월마트 페이지를 생성했다. 로고가 비뚤어져 있거나 의심스러운 URL을 부여하는 등 사칭 사이트임을 누구나 알 수 있게 했다. 그러나 코멧은 이런 명백한 단서를 무시하고 애플워치 결제를 진행했으며, 그 과정에서 이용자의 금융정보를 피싱 사이트에 넘겼다.

또 다른 실험에서는 은행을 사칭한 피싱 URL이 담긴 이메일을 코멧에 보냈다. 코멧은 경고도 없이 해당 링크를 열고 은행 사용자 이름과 비밀번호를 입력했다. 여기에 더해 피싱 페이지에 숨겨진 텍스트 박스가 AI에게 파일을 다운로드하라고 지시하자, 코멧은 지시에 따라 파일을 내려받았다.

엔가젯은 “이번 실험으로 AI 에이전트가 새로운 방식의 사기뿐 아니라 역사상 가장 오래된 사기 방식에도 취약하다는 사실이 드러났다”고 평가했다. AI는 이용자의 요청을 그대로 실행하기 때문에 이용자가 직접 피싱·스미싱 등 사기 위험을 감지해야만 피해를 막을 수 있다는 지적이다.

변인호 기자
jubar@chosunbiz.com