크로스보(Xbow)의 인공지능(AI) 챗봇이 세계 최고 해커들이 모인 '해커원 리더보드'에서 1위를 차지했다. 프로그램 역사상 최초로 AI가 인간 전문가를 제치고 미국 1위에 오른 순간이다.
사이버 보안업계를 뒤흔든 이 사건은 단순한 기술적 성취가 아닌 우리 사회에 주는 경고다. 업계에서도 사이버 보안 패러다임이 근본적으로 바뀐 역사적 분기점으로 보고 있다.
국내 보안업체 NSHC 장주현 이사의 최근 발표에 따르면 AI를 활용한 해킹은 초기 침투부터 데이터 유출까지 걸리는 평균 시간을 9일에서 2일로 단축시킨다. AI가 공격 도구로 활용되면서 사이버 공격이 기하급수적으로 더 빨라지고 정교해진다는 의미다.
장 이사는 "AI가 완전히 새로운 공격 방식을 만들어내기보다는 기존 공격 방법들의 속도와 규모, 정교함을 대폭 증대시키는 '증폭기' 역할을 한다"고 분석했다. 실제 초기 정보 수집에서는 대량 데이터 분석을, 악성코드 제작에서는 탐지 회피 변종 생성을, 공격 실행에서는 대규모 피싱 공격 자동화를 AI가 담당하고 있다.
과거 정적 스크립트에 의존했던 공격은 이제 AI 시스템이 실시간으로 방어체계를 분석하고 환경 변화에 맞춰 공격 경로를 동적으로 조정하는 수준까지 진화했다. 거대 언어 모델(LLM)은 해커들에게 '이상적인 해킹 조수' 역할을 수행한다. AI 생성 가짜 음성을 이용한 보이스 피싱, 유명 AI 도구로 위장한 악성코드 유포 같은 사례는 이미 현실이다. 스스로 공격을 기획하고 실행하는 '자율형 AI 에이전트'의 등장은 시간 문제라는 얘기다.
기존의 인간 중심 보안 체계로는 한계가 명확해졌다. AI 기반 공격의 속도와 규모를 따라잡기 어려워서다. 최첨단 AI 기술은 당분간 방어자보다 공격자에게 더 유리하게 작용할 가능성이 높다는 분석이 지배적이다.
결국 ‘AI로 AI를 막는 것’ 외엔 대안이 없다. 전문가들은 구체적인 대응 방안으로 자동화된 탐지·격리·대응 시스템, 방어형 AI 에이전트를 통한 공격형 AI 기술 대응 등을 제시하고 있다. 냇 프리드먼 전 깃허브 최고경영자(CEO)가 최근 “기계가 기계를 해킹하는 시대가 됐다”며 “멋지지만 무섭다”고 평가한 것도 이런 맥락에서다.
SF 영화에서나 보던 ‘기계 대 기계’의 전쟁은 현실로 다가오고 있다. AI 시대 사이버 전쟁은 기업과 국가의 생존과 직결된 문제다. 사람이 사라진 사이버 전쟁터에서 살아남으려면 한시라도 빨리 AI 기반 방어체계 구축에 속도를 내야한다.
홍주연 기자
jyhong@chosunbiz.com