인스타그램이 이용자가 가짜뉴스 등 유해 게시물을 신고할 수 있는 기능을 9월 중 내놓는다고 밝혔다. 또 올해 중 제3의 팩트체크 기관과 협업해 가짜뉴스 확산 방지에도 나선다. 하지만 국내서는 이 정책 적용이 제한적일 수밖에 없다는 우려가 나온다. 페이스북, 인스타그램 등과 협업하는 팩트체크 전문기관이 없어서다.

카리나 뉴튼 인스타그램 글로벌 공공정책 총괄이 9일 오전 서울 역삼 페이스북코리아 본사에서 자사 정책을 설명하는 모습./ IT조선
카리나 뉴튼 인스타그램 글로벌 공공정책 총괄이 9일 오전 서울 역삼 페이스북코리아 본사에서 자사 정책을 설명하는 모습./ IT조선
9일 서울 강남구 페이스북코리아 본사에서는 카리나 뉴튼 인스타그램 글로벌 공공정책 총괄이 안전한 플랫폼 구축을 위한 인스타그램 정책 및 기능을 설명했다.

그는 이 자리에서 "그 동안 인스타그램에서는 거짓과 오류가 있는 정보가 게재되더라도, 커뮤니티 가이드라인 위반이 아닌 경우는 삭제되지 않고 해시태그 검색이나 둘러보기 기능을 통해 일반에 유포됐다"며 "이를 위해 이용자들이 직접 게시물을 신고하는 리포팅(Reporting) 기능을 내놓을 예정이다"라고 전했다.

리포팅 기능은 기존 부적절한 광고 게시물을 신고하는 기능과 유사하다. 이 기능이 일반 게시물로 확대 적용된 셈이다. 신고가 접수되면 인스타그램 내부 콘텐츠 검토 팀이 커뮤니티 가이드라인 위반 여부를 판단한다. 내부 팀은 단순 유해성 콘텐츠뿐 아니라 명예훼손성 콘텐츠, 가짜뉴스와 같은 허위정보 여부도 판단한다.

인스타그램이 이용자가 직접 게시물을 신고할 수 있는 절차까지 마련한 이유는 허위정보와 자살 등 유해 콘텐츠 유포가 세계적인 문제가 됐기 때문이다. 이를 위해 인스타그램이 선택한 방법은 AI 모니터링 시스템 이외에 게시물을 본 이용자들도 직접 신고할 수 있도록 채널을 열었다.

이미 인스타그램뿐 아니라 각 소셜미디어는 유해 콘텐츠를 AI가 걸러내는 시스템을 도입했다. 하지만 확산을 막을 수 없었다. 올해 2월에는 영국의 한 10대 소녀가 인스타그램에서 자해 관련 콘텐츠를 본 뒤 스스로 목숨을 끊은 사건이 발생했다. 3월에도 뉴질랜드에서 발생한 총격 테러현장 영상은 인스타그램으로 급속히 퍼져나가기도 했다.

인스타, 한국 가짜뉴스 때려잡기 가능할까

인스타그램은 허위정보 확산도 막을 계획이다. 이를 위해 제3 기관과 협업해 팩트체킹 툴을 도입하는 방안을 검토한다. 이용자가 특정 콘텐츠를 가짜뉴스라고 신고하면, 이를 제3 기관에 진위여부 검토를 의뢰하는 방식이다. 허위 정보라고 판단된 게시물에는 별도 표시가 붙어 이용자들이 인식할 수 있도록 한다. 뉴스피드 노출 우선순위에서도 밀린다.

이 기능은 이미 해외 페이스북에서는 도입돼 이용된다. 페이스북은 2016년부터 저널리즘계 권위있는 연구소인 포인터 인스티튜트와 협업해 왔다. 포인터 인스티튜트는 2015년부터 국제 팩트체킹 코드원칙을 만든 기관이기도 하다.

다만 페이스북은 한국에서 이 툴을 도입하지는 못했다. 포인터 인스티튜트가 인증한 한국 기관이 없어서다.

이를 이유로 인스타그램 역시 추진하려던 제3 기관 협업이 불가능할 수 있다는 우려의 목소리가 나온다. 올해 중 목표한 제3자 팩트체킹 기능 도입도 관련 기관 협력을 이끌어내지 못하면 결국 무산될 가능성도 배제할 수 없다.

업계 일각에서 페이스북과 인스타그램 가짜뉴스 유포 방지시스템이 한국에서는 사실 여부를 확인하지 못한채 논란이 되는 콘텐츠를 노출 제한하는 수준에서 운영될 것이라는 전망이 나오는 이유다.

인스타그램 관계자는 "선거관련 가짜뉴스나 명예훼손성 콘텐츠 등을 막기 위해 방송통신심의위원회나 선거관리위원회, 경찰청 등 유관기관과 긴밀히 협력하고 있다"고 전했다.

또 인스타그램 허위정보 관련 자체 규정도 마련할 계획이다. 이 관계자는 "리포팅 기능 도입 이후 신고된 허위정보 콘텐츠는 페이스북 내부 기준과 AI 기술에 의거해 조치가 취해질 것이다"라며 "곧 인스타그램 자체 규정을 만들어 올해 중 발표할 예정이다"라고 전했다.