페이스북이 인공지능(AI)을 이용해 자살 방지에 나선다. 페이스북은 페이스북 게시물에서 자살 징후를 감지하는 AI 시스템을 전세계로 확대·적용한다.

27일(현지시각) 로이터에 따르면 페이스북은 3월부터 미국 사용자를 대상으로 자살 징후를 가진 사용자를 탐지하는 시스템을 테스트했고, 이를 미국 외 지역으로 확대·적용할 예정이다.

'사전 방지(proactive detection)'라고 불리는 이 시스템은 페이스북에 올라오는 글이나 페이스북 라이브 등 모든 게시물을 실시간으로 파악한다. 자살이 의심되는 행동이 감지되면 사용자나 사용자의 친구에게 알림을 보내도록 설계됐다.

마크 저커버그 페이스북 창업자 겸 최고경영자(CEO) / 페이스북 갈무리
마크 저커버그 페이스북 창업자 겸 최고경영자(CEO) / 페이스북 갈무리
페이스북은 해당 시스템에 대한 세부 기술로 무엇을 활용했는지 밝히지 않았지만 "괜찮냐?(Are you ok?)", "내가 도와줄까(Can I help?)" 등 자살과 연관이 있는 문장 등을 검색해 자살 징후를 포착하는 것으로 알려졌다.

또한, 페이스북은 세이브오알지(Save.org)와 같은 자살 방지 단체에 즉시 신고할 수 있는 시스템을 구축했다. 이외에도 페이스북 사용자가 타인의 자살 징후를 감지할 경우 신고할 수 있는 시스템도 마련했다.

페이스북은 2016년 페이스북 라이브로 자살 장면이 그대로 중계되는 사건을 겪은 이후 자살·살인 등 폭력적인 내용이 담긴 콘텐츠 정화에 나섰다. 페이스북은 5월 콘텐츠 모니터 요원 3000명을 추가로 고용할 예정이다.

가이 로젠 페이스북 제품관리담당 부사장은 "미국에서 진행한 테스트가 성공적인 덕분에 미국 이외 지역으로 자살 방지 소프트웨어를 확대·적용하기로 했다"며 "지난 한 달 동안 페이스북 자살 방지 소프트웨어가 100명 이상의 자살 징후를 포착했다"고 말했다.

또 "(자살 방지는) 속도가 중요하다"며 "자살을 예방하는 가장 좋은 방법 중 하나는 친구나 가족과 이야기하는 것인 만큼 페이스북은 위험에 처한 사람을 도와주기 좋은 서비스다"라고 말했다.

로이터는 "개인정보 접근을 제한하는 유럽 국가를 제외한 전세계에서 페이스북의 자살방지 소프트웨어가 작동할 예정이다"고 말했다.