인스타그램에 악성 댓글 달면 경고 받고, 남몰래 차단도 당해

장미 기자
입력 2019.07.09 15:27 수정 2019.07.09 15:46
인공지능(AI) 기술이 악성 댓글을 가려내 경고를 보낸다. 피해자가 가해자를 아무도 모르게 차단한다.
인스타그램이 사이버 폭력을 막기 위한 두가지 새 기능을 내놓으며 사이버 폭력과의 전쟁을 선언했다.

8일(현지시각) 타임테크크런치 등 미국 매체에 따르면 아담 모세리 인스타그램 대표는 "우리는 인스타그램에서 발생하는 괴롭힘을 막기 위해 더 많은 일을 할 수 있다"며 "피해자들이 용기 낼 수 있도록 돕겠다"고 밝혔다.

악성 댓글을 달았을 때 경고 문구와 실행취소 버튼이 나타나는 모습 / 출처 : 인스타그램 공식 블로그
새 기능은 악성 댓글을 쓸 때 망설이게 만든다. 공격적인 댓글을 적으면 ‘댓글을 정말 올리시겠습니까’라는 문구가 아래에 나타난다. 댓글 오른쪽에 실행취소(Undo) 버튼도 뜬다. 작성자가 댓글을 게시할 지 말 지 한번 더 고민하게 만든다.

악성 댓글 판단을 AI가 한다. 인스타그램은 교묘해진 사이버 폭력에 대응하기 위해 AI를 개발했다. 직접적인 욕설이 아니더라도 괴롭힘 징후로 보이는 댓글이라면 분석해 경고 조치한다.

모세리 대표는 "사전 테스트를 해보니 실제로 실행취소 버튼을 누른 사람들이 있었다"며 "다른 사람에게 상처주는 댓글을 쓰진 않았는지 되돌아 볼 기회를 준 셈"이라고 했다. 경고가 소극적 조치가 아니냐는 의문에 대한 답변이다.

인스타그램은 악성댓글 피해자가 가해자의 활동을 제한(Restrict)할 수 있도록 했다. 차단한 가해자가 내 계정에 아무리 댓글을 달아도 내가 승인하지 않으면 나와 내 계정에 들어온 다른 사람이 그 댓글을 볼 수 없다. 정작 댓글을 단 가해자는 내 인스타그램 활동 상태와 메시지 확인 여부를 알 수 없다. 자신이 이렇게 제한을 받는다는 사실조차 알지 못한다.

인스타그램은 사이버 폭력 피해자와 가해자의 관계를 고려해 이 같은 기능을 내놨다고 설명했다. 사이버 폭력은 온라인에서 끝나는 게 아니다. 현실 세계와도 관련이 있다. 모세리 대표는 "청소년 사용자들이 괴롭힘 당하는 사실을 알리기를 주저하고, 언팔로우(친구끊기) 같은 직접적인 대응도 피한다는 얘기를 들었다"고 언급했다.

페이스북 연례 개발자 콘퍼런스(F8)에서 발표하는 아담 모세리 인스타그램 대표 /출처 : 게티이미지
지난 4월 모세리 대표는 페이스북 연례 개발자 콘퍼런스(F8)에서 사이버 폭력을 막기 위한 대응책을 마련하겠다고 발표했다.

타임은 미국 청소년의 약 80%가 인스타그램을 사용한다고 보도했다. 사용자 절반 이상이 괴롭힘을 당한 적 있다.


T조선 뉴스레터 를 받아보세요! - 구독신청하기
매일 IT조선 뉴스를 받아보세요 닫기