네이버, 뉴스 악플 AI로 걸러낸다

입력 2019.11.13 10:32

네이버가 뉴스 악성댓글(악플)을 인공지능(AI)으로 걸러낸다. 최근 사회적으로 악플이 문제가 되면서 대책을 내놓은 것이다.

13일 네이버에 따르면 자체 개발한 악플 필터링 기술인 ‘클린봇'을 이날 뉴스 서비스 전체에 확대 적용한다. 네이버는 10월29일부터 연예와 스포츠, 웹툰 등에 클린봇을 순차적용해왔다.

악성 댓글 필터링 ‘클린봇'/ 네이버 제공
앞서 네이버에는 뉴스 댓글에 달린 욕을 ‘ㅇㅇㅇ' 등으로 자동 변환해주는 기능을 도입했다. 하지만 일부 문장은 특정 단어를 가려도 욕설이라는 맥락이 그대로 남아있는 경우가 있었다. 예를 들어 "저런 ㅇㅇ 같은 게 어디서 ㅇㅇ이야"라는 문장에서는 누군가를 비난하려는 의도가 그대로 남아있게 된다.

클린봇을 도입하면 욕설이 들어간 댓글 전체가 뜨지 않는다. 뉴스 서비스 기본 설정은 ‘클린봇 on’ 상태이며, 이용자가 설정 옵션에서 사용을 해지할 수도 있다 .

네이버는 "클린봇 적용 이후에도 AI 기술 고도화를 통해 탐지 성능은 계속 개선될 예정이다"라며 "기술 대응을 통해 서비스 품질을 높여나가겠다"고 말했다.

키워드