음란물 칼 빼든 텀블러, 불완전한 알고리즘으로 지나친 규제 우려

입력 2018.12.04 11:07

온라인 음란물의 온상으로 떠 오른 소셜네트워크서비스(SNS) 텀블러(Tumblr)가 17일부터 유해 콘텐츠를 올릴 수 없도록 금지하겠다고 밝혔다.

4일(현지시각) 미국 IT전문매체 더버지(The Verge)에 따르면 텀블러는 17일부터 음란물 등 유해 콘텐츠를 올리면 알고리즘에 따라 신고되고 삭제되도록 할 예정이다. 음란물이 포함된 게시물은 비공개로 전환돼 다른 사용자에게 노출되지 않는다.

텀블러가 금지한 콘텐츠는 나체와 성행위 등을 표현하거나 드러낸 삽화나 사진, 비디오, GIF 등이다. 다만 예술 누드화나 정치적 시위 현장의 나체 시위 사진, 출산과 모유 수유와 관련된 사진은 허용된다.

17일 이전에 텀블러에 올린 성인용 콘텐츠의 경우에도 같은 규정이 적용돼 삭제된다. 다만 이전에 올린 콘텐츠는 17일 전까지 사용자 스스로 텀블러의 새로운 콘텐츠 규정에 따라 삭제 및 비공개 조치하면 된다. 이 게시물들은 더이상 검색 결과에도 뜨지 않는다.

지난달 20일 USA투데이 등 외신에 따르면 지난달 19일 텀블러는 애플 앱스토어에서 iOS 애플리케이션이 삭제됐으며, 애플의 정기감사 결과 아동 성학대·착취 콘텐츠가 발견됐기 때문이라고 밝혔다. 이번 조치도 애플 앱스토어 삭제 이후 나온 것이다.

텀블러를 이용하는 한 작가는 자신의 삽화가 텀블러에 게시금지 당했다고 인증샷을 올리기도 했다./ 텀블러 화면 갈무리
다만 일각에선 텀블러의 자동 알고리즘이 아직 유해 콘텐츠를 제대로 판별하는 수준이 아니라는 점에서, 역으로 지나친 콘텐츠 규제가 될 수 있다는 우려도 나오고 있다. 이미 텀블러 알고리즘이 예술 작품을 유해 콘텐츠로 인식해 게시 금지당하는 사례가 발생하고 있다는 것.

텀블러를 이용하는 한 작가의 사례를 들며 "미역 사이를 헤엄치는 마녀가 그려진 일러스트 삽화가 텀블러에서 금지당했다"고 더버지는 전했다.

제프 도노프리오 텀블러 최고경영책임자(CEO)는 "유해 콘텐츠를 걸러내는데 현재까지는 알고리즘에 의존하고 있으며 아직은 실수가 있을 수밖에 없다"고 전했다.



키워드