과기정통부, AI로 아동·청소년 디지털 성범죄 해결 방안 모색

과학기술정보통신부(장관 배경훈)가 여성가족부와 함께 AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템 도입에 착수했다.

과학기술정보통신부는 세종청사에서 ‘AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템 도입’ 과제의 착수보고회를 개최했다고 23일 밝혔다. 이는 디지털 기반 사회현안 해결 프로젝트 사업의 일환이다.

여성가족부의 ‘AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템 도입’ 과제는 최근 딥페이크 성범죄 등 디지털 성범죄가 심각한 사회문제로 대두됨에 따라 ‘성범죄 사회문제 해결’을 주제로 추진한 지정 공모를 통해 선정된 주요 과제다.

기존에는 아동·청소년 대상 성착취물을 식별하기 위해 한국여성인권진흥원 담당자의 키워드 중심의 수작업 검색 등 육안 모니터링 방식 위주로 추진돼 왔다. 성착취물 발견 시에도 수작업으로 플랫폼사에 삭제를 요청해야 했다. 이번 과제로 AI 시스템이 구축되면 온라인에서 성착취물을 24시간 365일 실시간 탐지할 수 있게 된다.

과학기술정보통신부는 AI 분석 기술 고도화를 통해 위험도에 따른 검토 대기열을 구성한 뒤 체계적인 검토 후 삭제 지원을 연계할 수 있다고 설명한다. 탐지된 게시물 삭제는 API를 활용해 관련 플랫폼으로 요청하고 처리 내역도 관리한다. 한국여성인권진흥원(원장 신보라)은 플랫폼 내 상담 연계 및 피해 대응체계 설계에 힘을 보탠다.

과학기술정보통신부는 “이번 과제를 통해 피해 접수-삭제 지원-상담 연계에 이르는 통합 체계를 구축해 보다 체계적이고 지속 가능한 디지털 성범죄 대응 모델을 구축할 계획이다”라며 “앞으로도 AI 등 디지털 기술을 공공 서비스에 적극 접목해 사회적 약자를 보호하고 국민이 체감할 수 있는 디지털 안전망 구축에 기여하도록 적극 지원하겠다”고 말했다.

변인호 기자
jubar@chosunbiz.com