인스타그램 "악성 댓글, AI로 막는다"

입력 2020.09.15 16:16

소셜미디어(SNS)가 악성 댓글 논란의 중심에 섰다. 최근 네이버와 다음 등 포털 사이트가 연예·스포츠 뉴스 댓글을 막자 벌어진 현상이다. 유명인들은 SNS를 통해 무차별적인 악성 댓글 공격에 시달린다. 이에 인스타그램은 악성 댓글을 적극 대응한다는 방침이다.

인스타그램은 15일 온라인 기자 간담회를 열고 온라인 괴롭힘을 막기 위한 새로운 정책과 기능을 소개했다.

인스타그램은 9월 중 인공지능(AI) 기술을 이용한 댓글 경고 기능을 도입한다. 이용자가 부정적인 댓글을 작성할 경우, AI가 게시 전 이를 감지하고 해당 댓글이 상대방에게 공격적으로 받아들여질 수 있다는 점을 미리 알린다. 이용자 스스로가 댓글을 취소하거나 순화된 표현을 사용하도록 돕는 기능이다.

댓글 경고 기능과 제한 기능 / 인스타그램
인스타그램은 이를 통해 악성 댓글을 방지하고 자사 서비스가 안전하고 자유로운 공간으로 거듭나도록 한다는 방침이다.

남지희 인스타그램 파트너십 APAC 총괄은 "인스타그램은 안전 기능 도구를 소개하는 것에서 나아가 안전한 플랫폼을 만들기 위해 지속적으로 인력과 기술에 투자하고 있다"며 "페이스북 직원 3만5000명이 안전성과 보안을 위해 노력한다"고 밝혔다.

인스타그램은 페이스북과 협업해 AI 기술을 고도화하고 있다. AI는 많은 양의 콘텐츠를 사전에 분석하고 기본적인 판단을 내리는 데 효과적이기 때문이다. 나체 이미지 등 부적절한 콘텐츠를 쉽고 빠르게 걸러낼 수도 있다. 인스타그램은 신조어 등을 학습시켜 최신 트렌드를 추적하도록 한다.

인스타그램 측은 다만 AI기술을 활용한 게시물 검토 기술이 완벽하진 않다고 설명했다. 말의 맥락을 파악해야 하는 혐오 표현이나 괴롭힘은 AI가 판단하기 쉽지 않기 때문이다. 이에 인스타그램은 리뷰팀 인력을 중심으로 콘텐츠를 24시간 검토하는 한편 AI 기술 개발에 꾸준히 투자한다는 방침이다.

필립 추아 인스타그램 정책 APAC 총괄은 "AI가 다양한 형태의 온라인 괴롭힘을 확실히 이해할 수 있도록 현재 괴롭힘으로 정의된 행동 외에도 협박, 모욕, 배신 등 새로운 유형을 훈련 중이다"며 "AI로 혐오 표현을 걸러내는 것은 어렵고 고도의 기술력을 요구하지만 이뤄내고자 한다"고 했다.

인스타그램은 포털처럼 댓글을 폐지하는 대신 부정적인 영향을 최소화하는 데 집중할 계획이다. 이용자가 자신의 의견을 자유롭게 표현할 수 있는 공간을 만드는 것이 인스타그램의 목표이자 존재 이유라는 설명이다.

필립 추아 총괄은 "긍정적인 댓글이 훨씬 많고 전체 댓글에서 악성 댓글 비중은 적다"며 "이용자의 의사 표현을 완전히 막는 게 아니라 부정적인 내용을 파악해 제거하고 방지하려는 노력을 기울이고자 한다"고 밝혔다.

장미 기자 meme@chosunbiz.com






키워드