'차량도 맘대로’ 경찰과 도둑, 인공지능 선악 대결

입력 2020.08.08 06:00

‘인공지능(AI), 선의 기술이냐 악의 기술이냐?’

범죄자와 범죄를 막는 경찰의 AI 활용 사례가 각각 등장하고 있어 주목된다. 범죄자 AI 능력이 경찰의 대응 능력을 넘어설 수도 있어 자칫 심각한 사회문제로 이어질 수 있다는 우려다.

9일 외신 및 업계에 따르면 AI가 범죄도구로 사용되는 경우와 범죄를 차단하는 수사방식에 사용된다. 특히 범죄도구로 악용 시 차량을 맘대로 운전하거나 금융시장 공격도 가능하다는 주장이다.

이들의 공격을 차단하기 위한 경찰의 노력도 분주하다. 빅데이터를 기반으로 사전 가능성을 확인해 미리 막는 방식이다. 미리 범죄 가능성을 계산하는 프로그램도 등장했다.

사람 같은 AI, 사람을 속이다

모든 것이 데이터다. 개인정보는 물론, 이커머스 사이트에서 얼마나 있었는지 같은 정보도 저장되고 있다. AI가 본격적으로 범죄에 활용되기 시작하면 치명적일 수밖에 없다. 개인정보를 통한 경제적 피해부터 상호 불신에서 오는 정신적 피해까지 예상된다.

AI가 사람을 닮을 수록 범죄도 치명적으로 변할 수 있다. /픽사베이
AI가 범죄도구로 매력적인 부분은 사람보다 더 사람답게 느껴질 수 있다는 점이다. 네트워크에 떠도는 다양한 인적 정보로 학습한 AI는 어렵지 않게 우리를 속인다. 인가처럼 느껴지는 음성은 보이스피싱에서, 사진과 영상은 가짜 뉴스로 퍼져 사회적 문제까지 이어질 수 있다.

그 중심에는 ‘딥페이크’가 있다. 딥페이크는 AI 딥러닝 기반으로 오디오나 비디오를 조작, 편집하는 기술이다. 최근 범죄학 학술지 ‘크라임 사이언스(Crime Science)’에 실린 유니버시티 칼리지 런던 연구진 보고서에 따르면, 딥페이크 활용 가짜 오디오와 비디오가 가장 위협적인 AI범죄로 꼽혔다.

연구진은 단순 공인 합성을 통한 피해만큼이나 진화한 보이스피싱 또는 가짜 뉴스 등 사회 전반에 퍼질 불신으로 필요한 거대한 사회적 비용도 지적했다.

AI를 활용한 예술 작품 복제도 큰 문제로 떠오르고 있다. 단순 복제를 넘어, 화풍이나 음악적 특징을 잘 배우는 AI 특성상 가품·진품 논란은 더 커질 것이다.

이외에도 AI 자체에 대한 보안도 위험하다. 프로그램 빈틈을 찾아내는 해킹AI는 ▲ 무인차량 제어권 강탈 ▲ AI 제어 시스템 해킹 ▲ AI를 활용한 금융 시장 공격 등을 할 수 있다.

AI를 활용한 범죄 는 프로그램 형태라는 점이 가장 위험한 부분이다. AI만 있다면, 많은 범죄자가 큰 노력없이 반복적으로 범죄를 시도할 수 있다. 무엇보다 AI를 사고팔 수 있어 거대한 범죄 산업으로 이어질 가능성도 높다.

"숨은 패턴 찾아라" AI를 활용해 수사하고 범죄 추적한다

AI를 활용한 범죄 가능성이 높아진 만큼, 범죄자를 잡기 위해 AI를 활용하는 수사 기법도 속속 등장하고 있다. 영국에서는 용의자 구금 여부를 결정하기 위해 AI ‘HART’를 사용하고, 미국은 범죄 가능성을 계산하는 프로그램 ‘프레드폴(PredPol)’을 운용 중이다.

국내도 범죄를 방지하고, 추적을 위한 수단으로 AI를 적극 활용 중이다. 가장 활발하게 사용되는 곳은 CCTV다.

예측적 영상보안 원천기술 유저인터페이스(UI) 모습. / ETRI
한국전자통신연구원(ETRI)가 개발 중인 ‘예측적 영상보안 원천기술’은 CCTV를 AI가 분석하여 범죄 확률을 보여주는 기술이다. 우범지대 등 환경 분석 이후, 이상 행동 등을 AI가 잡아내는 것이다.

통화기록이나 계좌 정보 등 다양한 정보를 AI가 분석해 익명 범죄자를 찾기도 한다. 올해 2월 열린 ‘AI와 사이버범죄’ 심포지엄에서 김기범 ETRI 부설연구소 실장은 대포폰을 사용해도 AI가 중점적으로 연락을 하는 범죄자를 찾아내는 기법은 이미 사용 중이라고 설명했다. 이는 ‘패턴’을 잘 찾는 AI 특성을 이용한 것이다.

서울시 민생사법경찰단은 다단계와 같은 민생범죄 수사를 위해 2018년 AI를 도입했다. 범죄집단이 피해자를 모집하기 위해 인터넷에 올린 글의 패턴을 파악하여 알려주면, 수사관이 이를 토대로 수사했다.

하지만 개인정보보호위원회가 작년 6월 AI를 활용한 수사기법이 개인정보보호법 위반이라고 결정하며 사용되지 못하고 있다. 이런 이유로 AI기반 CCTV는 개인정보 자체를 저장하지 않거나 처음부터 익명화하고 있다.

수사를 돕기 위한 도구로도 활용될 예정이다. 경찰청은 AI전문기업 셀바스 AI와 함께 수사관과 피해자 조사 과정을 돕는 실시간 조서 작성 시스템을 구축 중이다. 진술 조서 내용을 자동으로 글로 바꾸고, 기록 및 저장한다.

연내 서울, 경기지역 및 일부 지방 59개 경찰서에서 시범 서비스로 운영될 예정이며, 수사관과 피해자의 라포 형성이 중요한 성폭력 관련 조서 작성에 우선 적용된다.

송주상 기자 sjs@chosunbiz.com


키워드