AI 에이전트 80%가 '예상 밖 행동'… 기업 보안에 적신호

AI 에이전트를 도입한 기업 10곳 중 8곳이 예기치 못한 행동을 경험한 것으로 나타났다. 승인되지 않은 시스템 접근, 민감한 데이터 유출 등 보안 사고가 잇따르지만 관련 보안 정책을 갖춘 기업은 절반에도 못 미치고 있어 우려의 목소리가 나온다. 

5일 엔터프라이즈 아이덴티티 보안 기업 세일포인트테크놀로지홀딩스가 발표한 'AI 에이전트 보안의 새로운 공격 표면' 보고서에 따르면, AI 에이전트를 사용하는 기업의 80%는 에이전트가 승인되지 않은 시스템이나 민감한 데이터에 접근하는 등 예상치 못한 행동을 경험한 것으로 조사됐다. 또 전체의 23%는 AI 에이전트가 자격 증명 탈취에 이용된 사례도 있다고 밝혔다.

보고서는 최근 세일즈포스, 마이크로소프트(MS), 앤트로픽, 오픈AI 등 주요 기업이 AI 에이전트를 활용해 문서 탐색, 보고서 작성, 업무 자동화 등에 나서고 있고 이는 곧 조직 내부 보안 위협으로 이어질 수 있다고 지적했다.

실제 AI 에이전트를 도입한 기업은 전체의 82%에 달했다. 하지만 이에 대한 보안 정책을 마련한 곳은 44%에 불과했다. 응답자 72%는 AI 에이전트가 기존의 머신 아이덴티티보다 더 큰 보안 위협이 된다고 답했다. 그 이유로는 ▲기밀 데이터 접근 가능성 ▲예상치 못한 행동 수행 ▲민감한 데이터 공유 위험 등이 꼽혔다.

세일포인트는 "AI 에이전트는 민감한 시스템과 데이터에 폭넓은 접근 권한을 가지는 경우가 많지만, 이에 대한 관리와 통제는 미비하다"며 "높은 권한과 낮은 가시성의 조합은 공격자에겐 최적의 표적이다"라고 지적했다.

그럼에도 기업의 98%는 향후 1년 내 AI 에이전트 활용을 더욱 확대할 계획이라고 답했다. 세일포인트 찬드라 나나삼반담 최고기술책임자(CTO)는 "AI 에이전트 역시 인간 사용자처럼 실시간 권한 관리와 최소 권한 원칙 적용, 활동 가시성 확보 등 아이덴티티 중심의 엄격한 거버넌스 아래 관리돼야 한다"고 강조했다.

홍주연 기자
jyhong@chosunbiz.com