범죄 데이터 머신러닝한 AI, 대화 내용으로 위험 감지
기술적으로는 충분…경찰 협조, 법적 이슈는 ‘과제’
n번방 사태와 같은 디지털 그루밍을 통한 범죄를 사전에 막는 인공지능(AI) 기법이 제안됐다. 기존 범죄 데이터를 머신러닝(기계학습)한 AI가 미성년자와 가해자 대화에서 위험을 감지해 경고하는 기법이다. 이미 기술적으로 충분히 구현 가능하다고 업계는 입을 모은다. 다만 법적인 ‘허들’ 그리고 정부의 전향적인 협조가 필요하다.
AI가 잠재 피해자와 가해자의 대화 내용을 분석해 이상 징후를 예측해 신고하는 알고리즘을 개발하면 된다. 예컨대 디지털 그루밍 범죄에서 많이 사용되는 단어, 말투, 패턴 등을 학습해 유사 사례를 찾는 것이다.
장동인 AIBB랩 대표는 "AI 딥러닝의 ‘자연어 처리 문장분류 기법’을 활용하면 디지털 그루밍 범죄 유형을 쉽게 찾아낼 수 있다"며 "기술적으로는 큰 벽이 없다"고 말했다.
문제는 경찰·검찰이 보유한 성범죄 데이터 확보 여부다. AI의 정확도(인지능력)와 직결되는 사안이다. 이 데이터가 없으면 머신러닝이 안되고 결국 인지능력이 떨어진다.
김종진 인터마인즈 대표는 "데이터가 부족하면 AI 학습이 되질 않는다"며 "기업이 데이터를 직접 만든다면 완성도 높이는데 상당한 시일이 소요될 것"이라고 설명했다.
일각에서는 데이터 활용 등에서 개인정보보호 및 인권보호 이슈 한계가 언급되기도 한다. 법조계에서도 공익적인 목적인 만큼 이 또한 넘어설 수 있을 것으로 본다.
법률 AI업체 인텔리콘연구소 양석용 대표는 ‘공론화 과정은 필요하다’는 전제를 달긴 했지만 "위치정보를 알려주는 앱이 등장했듯이 상업적 목적이 아니라면 개인정보가 담겨 있지 않은 데이터의 공익목적 활용은 법적으로 문제가 없을 것으로 보인다"고 말했다. 양 대표는 이 사업이 추진되면 "범죄 예방은 물론 AI를 이용한 수사기법을 진일보시키는 획기적인 사업이 될 것"이라고 덧붙였다.
실제로 방송통신위원회는 디지털 성착취 위험으로부터 아동 또는 청소년을 보호하기 위해 청소년용 스마트폰 관리 앱에 ‘몸캠피싱 방지 기능’을 탑재한 바 있다. 몸캠피싱은 영상통화로 음란 행위를 유도하고 촬영한 뒤 이를 유포하겠다고 협박하고 돈을 뜯는 범죄수법이다.
한국정보화진흥원은 제안한 ‘미성년자 대상 디지털 성범죄 위험 자동 감지 앱’ 시범사업 적용을 검토할 계획이다. 이영주 정보화진흥원 의료복지팀장은 "AI로 국가 사회 현안을 해결해보자는 취지에서 과제를 제안했다"며 "법적으로 문제가 없다면 시범사업을 통해 기술적으로 구현하는 방안을 검토하고 있다"고 말했다.
김준배 기자 joon@chosunbiz.com