인공지능(AI) 기술이 악성 댓글을 가려내 경고를 보낸다. 피해자가 가해자를 아무도 모르게 차단한다.
인스타그램이 사이버 폭력을 막기 위한 두가지 새 기능을 내놓으며 사이버 폭력과의 전쟁을 선언했다.
8일(현지시각) 타임과 테크크런치 등 미국 매체에 따르면 아담 모세리 인스타그램 대표는 "우리는 인스타그램에서 발생하는 괴롭힘을 막기 위해 더 많은 일을 할 수 있다"며 "피해자들이 용기 낼 수 있도록 돕겠다"고 밝혔다.
악성 댓글 판단을 AI가 한다. 인스타그램은 교묘해진 사이버 폭력에 대응하기 위해 AI를 개발했다. 직접적인 욕설이 아니더라도 괴롭힘 징후로 보이는 댓글이라면 분석해 경고 조치한다.
모세리 대표는 "사전 테스트를 해보니 실제로 실행취소 버튼을 누른 사람들이 있었다"며 "다른 사람에게 상처주는 댓글을 쓰진 않았는지 되돌아 볼 기회를 준 셈"이라고 했다. 경고가 소극적 조치가 아니냐는 의문에 대한 답변이다.
인스타그램은 악성댓글 피해자가 가해자의 활동을 제한(Restrict)할 수 있도록 했다. 차단한 가해자가 내 계정에 아무리 댓글을 달아도 내가 승인하지 않으면 나와 내 계정에 들어온 다른 사람이 그 댓글을 볼 수 없다. 정작 댓글을 단 가해자는 내 인스타그램 활동 상태와 메시지 확인 여부를 알 수 없다. 자신이 이렇게 제한을 받는다는 사실조차 알지 못한다.
인스타그램은 사이버 폭력 피해자와 가해자의 관계를 고려해 이 같은 기능을 내놨다고 설명했다. 사이버 폭력은 온라인에서 끝나는 게 아니다. 현실 세계와도 관련이 있다. 모세리 대표는 "청소년 사용자들이 괴롭힘 당하는 사실을 알리기를 주저하고, 언팔로우(친구끊기) 같은 직접적인 대응도 피한다는 얘기를 들었다"고 언급했다.
타임은 미국 청소년의 약 80%가 인스타그램을 사용한다고 보도했다. 사용자 절반 이상이 괴롭힘을 당한 적 있다.
- "또 접속 불량" 인스타그램·페이스북 전세계서 먹통
- 인스타그램에 'ㅇㅇㅇ와 함께 합니다’ 있으면 '광고'
- "인스타그램, 국내 SNS 이용률 증가율 최고…페이스북, 이용률 1위"
- 올해만 벌써 네 번째…인스타그램 접속 또 오류
- 인스타그램 "인플루언서 개인정보 유출 사실 무근" 반박
- 페북 이어 인스타그램도 암호 수백만개 방치
- 한 달 만에 또…페이스북·인스타그램, 세계 곳곳에서 '먹통'
- 인스타-페북 광고·마케팅도 '먹통'…"중소 판매자들 수천 달러 손실"
- 먹통에서 돌아온 ‘인스타'…깜깜 무소식 ‘페북'
- 페이스북·인스타그램 전세계 '접속 불통'