사이버 범죄, AI로 사악해진다

하순명 기자
입력 2021.06.21 06:00
사이버 공격에 AI(인공지능) 기술이 더해져 보안이 더욱 위협받고 있다고 IT 전문 매체 벤처비트가 17일(현지시각) 전했다.

사이버 보안 이미지 / 픽사베이
AI가 가짜 이메일이나 딥페이크(인공지능을 기반으로 활용한 사람 이미지 합성 기술)에 적용되며 진짜와 구분하기가 더욱 어려워지자 거액의 금전적 피해를 보게 된다.

이런 위험을 피하려면 조직의 정상적인 사용자, 장치, 시스템 패턴을 이해하고, 비정상적인 활동을 탐지하는 '방어형 AI'나 자체 학습 알고리즘으로 대비하면 된다. 그러나 사이버 범죄자들 또한 보안을 뚫기 위한 방법을 꾸준히 준비하기 때문에 사이버 공격에 완벽하게 대비하기는 쉽지 않다.

AI 기반 사이버 공격은 AI와 머신러닝 기술로 강력해진다. 예를 들어 불특정 다수를 공격하던 피싱(전자금융사기)에 AI가 접목되면 타깃팅된 개인이나 기업의 고위직 직원을 대상으로 하는 '스피어 피싱(특정 개인이나 회사를 대상으로 한 피싱 공격)’으로 발전한다.

임원을 사칭하거나 친숙한 공급 업체를 가장해 가짜 송장을 보내려는 조직이 있다고 상상해 보자. 그들은 믿을만한 이메일을 생성하기 위해 머신러닝을 이용해 이전 서신을 참조해 응답을 요청하는 송장을 만들어 낼 수 있다. 실제로 GPT-3(Generative Pre-Training 3)로 가짜 뉴스를 만들어 잘못된 허위 정보나 노골적인 거짓말을 퍼뜨린 사례가 있다. GPT-3는 1750억개의 매개변수를 기반으로 딥러닝을 이용해 텍스트를 만들어내는 언어 모델로 사람이 작성한 내용과 거의 구분이 어려운 문장을 만들어낸다.

AI로 인한 사이버 공격에 관한 한 피싱과 스팸은 사이버 공격의 일부에 불과하다. 예를 들어, 멀웨어는 AI의 힘을 받아 조직을 쉽게 타고 들어가 이동할 수 있어, 자신을 드러내지 않고 내부 시스템을 탐색하고 네트워크 트래픽을 분석해 자체 통신과 결합할 수 있다. AI 기반 멀웨어는 전체 목록을 통합하는 대신 특정 목표물을 대상으로 하는 방법을 학습해 안티멀웨어 또는 샌드박스 솔루션(의심스러운 파일을 가상환경에서 실행시켜 공격 행위를 점검하는 기술)에 의한 탐지를 피하고자 자폭하거나 일시 중지 메커니즘을 구현할 수 있다.

그 밖에도, AI가 탑재된 사이버 공격 소프트웨어는 대형 봇네트(수십에서 수만 대의 시스템이 동시에 명령을 전달받아 실행하여 대규모의 네트워크 공격 등 다양한 악의의 행위가 가능) 탐색을 통해 가장 효과적인 공격 형태 찾는 방법을 배울 수 있다.

최근 발행된 사이버 보안 기업 다크트레이스 백서에 따르면 의미가 담긴 문맥을 만드는 AI가 사이버 공격자의 가장 큰 무기로 부상했다. 이때 AI는 상황 정보를 통해 학습하고, 취약점을 발견해 공략하거나, 신뢰할 수 있는 요소를 모방해 피해를 극대화하도록 적응한다.

다크트레이스는 "감지하기 어려운 느린 속도로 데이터를 유출하는 공격이 발생할 수 있으며, 여기서 멀웨어는 인간과 기존 보안 시스템이 탐지할 수 없는 미묘한 조치를 취해 탐지를 회피하는 방법을 배울 수 있다"며 "공격 대상 환경을 이해해 악성 프로그램이 감염된 시스템에서 사용하는 총 대역폭에 따라 동적으로 전송 속도를 변경해 사용할 수 있다"고 점점 더 사이버 공격이 진화하고 있다고 경고했다.

하순명 기자 kidsfocal@chosunbiz.com


T조선 뉴스레터 를 받아보세요! - 구독신청하기
매일 IT조선 뉴스를 받아보세요 닫기