AI가 의심 글 수집해 팩트체크기관이 확인
SNS 버블필터가 ICT기업 자발적 참여 유도
미국 ICT기업이 미국 대통령선거를 앞두고 '가짜뉴스' 근절에 나섰다. 가짜뉴스에 흔들렸던 2016년 대선을 반복하지 않기 위해서다.
13일 외신에 따르면 미국에서는 ‘가짜뉴스’를 단순 오보 개념을 넘어선 것으로 본다. SNS(소셜 네트워크) 등을 통해 빠르게 퍼지고, 진실이 아님에도 많은 사람이 봤다는 이유로 사실처럼 사용된다. 특히, 인공지능(AI) 기반 영상합성 기술 '딥페이크'는 특정 인물 행동을 합성해, 행동이나 발언에 관한 거짓 정보를 제공한다.
코로나 펜데믹 관련 가짜 뉴스가 미국 전역을 강타하며 '인포데믹(정보를 뜻하는 인포메이션과 팬데믹 합성어)'라는 신조어가 생기기도 했다. 코로나19가 감기와 같다는 근거 없는 뉴스를 믿은 일부 시민은 코로나19 검사를 받지 않는 등 사회 구성원에 큰 피해를 제공했다.
ICT기업, AI와 정책으로 가짜뉴스 잡는다
페이스북이 가장 적극적이다. 페이스북은 대선 기간 일주일 전부터 정치적 광고를 금지한다. 또한 대선은 물론 코로나19 관련 거짓 정보를 담은 글은 예외 없이 삭제한다는 강경책을 제시했다.
이미 페이스북의 AI는 코로나19 가짜뉴스 확산을 막았다. 7500개가 넘는 기사를 통해 학습한 AI는 4월에만 코로나19 가짜뉴스 약 5000만개를 찾아내 경고 라벨을 부착했다.
하지만 아직 기술적으로 보완이 필요한 AI다. 지난 7월 공식 블로그를 통해, 페이스북은 가짜뉴스를 잡은 AI가 "완벽과는 거리가 먼 도구"라고 소개했다. 그럼에도 ‘글 삭제’라는 강력한 정책은 2020년 대선 기간 가짜뉴스 확산을 막겠다는 페이스북 의지로 보인다.
마크 저커버그 페이스북 CEO는 외신을 통해 "우리는 민주주의를 지킬 의무가 있다"라고 밝혔다.
마이크로소프트(MS)는 가짜뉴스보다 한층 위험한 딥페이크를 막는 AI를 선보였다. ‘비디오 인증기(Video Authenticator)’라 불리는 AI는 사진과 영상을 프레임 단위로 사람은 인식하기 힘든 수준의 미묘한 변화를 포착해 가짜 여부를 판단한다.
이번 대선에 활용할 수 있도록 언론 기관과 각 정당 등에 제공할 예정이다.
MS는 "(합성을 통한) 풍자와 패러디는 즐거울 수도 있다"며 "사람들이 미디어를 잘 이해하기 위해서는 진짜 사실을 아는 것이 우선"라고 AI 개발 배경을 설명했다.
SNS + 가짜뉴스 = 진실? 선동으로 얼룩졌던 2016년 미국
미국 ICT기업이 적극적으로 가짜뉴스와 전쟁에 나선 까닭은 2016년 대선에서 시작한다. 당시 대선은 도널드 트럼프 공화당 후보의 승리로 끝났으나, 대선 기간 내내 양당은 가짜뉴스로 서로를 공격하고 해명하는 데 급급했다.
가장 큰 원인은 SNS를 통한 '버블필터(서비스사가 이용자 맞춤형 정보를 제공해, 이용자는 필터링 된 정보만을 접하게 되는 현상)'였다. 유저가 보고 싶은 정보를 제공하는 SNS의 추천 알고리즘이 악영향을 끼쳤다. 가짜뉴스를 공유하면, 정치 성향이 비슷한 사람이 뉴스를 접하게 된다. 빠르게 많은 사람이 뉴스를 봤고, 해당 뉴스를 사실로 인식했다.
예를 들어, "프란치스코 교황이 트럼프를 지지한다"나 "힐러리 클린턴이 IS의 무기를 판매했다"처럼 근거가 부족한 가짜뉴스도 SNS를 통해 힘을 얻었다. 워싱턴 포스트 등 기존 전통 매체는 사실 확인에 바빴고, 정작 후보자 검증은 제대로 진행할 수 없었다.
가짜뉴스로 얼룩진 대선이 끝난 뒤, ICT기업 '책임론'이 부상했다. 결국, 대다수 기업이 AI 기반 추천 알고리즘에 관해 재논의를 하고 가짜 뉴스 확산 방지에 나서게 됐다.
송주상 기자 sjs@chosunbiz.com