중고거래 플랫폼 중고나라에서 반인륜적인 게시글이 올라와 논란이 일고 있는 가운데 인공지능(AI) 시스템이 이를 막지 못한 이유에 관심이 쏠린다. 최근 중고거래 플랫폼들은 증가하는 온라인 중고거래 관련 사기 피해를 막기 위해 AI를 적극 도입했지만 이번에는 작동하지 않았기 때문이다. 업계는 플랫폼 책임을 강화해야 한다고 지적한다.
지난 3일 오후 중고나라 카페에는 '제 아들 팝니다'와 '제 딸 팝니다'라는 제목의 글이 잇따라 등장했다. 해당 게시글에는 아이 사진과 연락처 등도 포함됐다. 작성자는 "사정상 힘들다"며 "가격은 협의 후 맞추겠다"고 했다. 현재 글은 삭제된 상태다. 경찰은 조사에 착수했다.
중고거래 플랫폼이 사회 통념에 어긋난 게시글로 논란이 된 건 처음이 아니다. 지난해 10월에는 당근마켓에 ‘36주 된 아이를 입양한다’는 내용의 글이 사진과 함께 게시돼 파문이 일었다. 또 ‘장애인 팝니다’라는 제목의 글이 올라와 경찰이 수사에 나서기도 했다.
또 당근마켓은 성범죄 사례도 늘고 있다. 물품 거래를 명목으로 접근해 성희롱성 발언을 하거나 거래과정에서 성추행에 노출되는 사례가 늘어난다.
중고거래 플랫폼, AI 잇따라 도입했지만
관련업계는 AI를 도입한 중고거래 플랫폼이 이 같은 거래를 사전에 왜 막지 못했는지에 궁금증을 자아낸다. 당근마켓과 번개장터, 중고나라 등 중고거래 플랫폼이 AI 기술 개발에 투자를 확대하고 있기 때문이다.
업계 일각에서는 사기나 불법 거래에만 집중된 AI 알고리즘 개발로 인해 반인륜적인 거래 데이터를 쌓지 못한 AI가 이를 막지 못한 것 아니냐는 분석을 내놓는다. 실제 플랫폼 기업들은 현재 AI 기술로 완벽한 필터링에는 한계가 있다고 토로한다. 다만 문제를 파악한 만큼 AI 시스템 고도화를 진행하고 있다는 설명이다.
당근마켓 측은 "아이 판매글 이후 생명을 판매하는 행위 등을 불법 게시글로 규정한 커뮤니티 가이드라인을 마련했다"며 "이같은 게시물을 자동으로 걸러내는 인공지능(AI) 알고리즘 고도화를 위한 중장기적 투자를 이어가고 있다"고 설명했다.
중고나라 역시 AI 기반 기술로 불법거래를 걸러내고 있다. 다만 이번 사건의 경우 중고나라 플랫폼이 아닌 네이버 카페에서 발생했다는 점을 이유로 차단이 불가능했다는 설명이다. 중고나라는 자체 앱과 카페 등 이원화해 운영하고 있다. 중고나라 카페 가입자가 약 1860만명에 달해 이를 포기하기 어려운 상황이다.
중고나라 관계자는 "AI 기반 기술로 불법거래를 모니터링하고 있지만 앱이 아닌 카페는 네이버 플랫폼 안에 있기 때문에 게시물이 올라오는 자체를 막을 순 없다"며 "이같은 일이 다시는 일어나지 않을 거라고 말하기 어렵다"고 말했다.
그는 이어 "다만 불법거래 게시물을 최대한 빠르게 삭제하기 위해 모니터링 인력을 확대하는 등 해결 의지를 갖고 있다"며 "관련 게시물에 대해 엄단하겠다는 내용의 공지사항도 업데이트할 예정이다"고 강조했다.
중고거래 플랫폼 구조적 문제 수면위로
일각에서는 이번 사건으로 중고거래 시장의 구조적 문제가 수면 위로 떠올랐다고 지적한다. 중고거래 플랫폼에는 누구나 자유롭게 글을 올릴 수 있다 보니 각종 피해가 발생하기 쉽다는 것이다. 미국 중고거래 사이트인 크레이그리스트도 성매매의 온상이 되고 있다는 비판을 받기도 했다. 최근 국내에서도 중고거래 시장이 빠르게 성장하면서 관련 논란이 확산되고 있다는 분석이다.
이용자 정책 강화와 AI 시스템 개선 등 보다 적극적인 조치가 필요하다는 목소리도 나온다. 본인 인증 절차를 강화하고 불법 행위에 대한 제재를 확대해야 한다는 것이다. 일례로 지난해 12월 11일 업데이트된 중고나라의 거래 제한 품목 안내 게시글에는 비윤리적 행위에 대한 안내가 포함돼 있지 않았다. 아울러 중고거래 플랫폼들이 도입하고 있는 AI 필터링 기술도 보완이 필요하다는 의견이 제기됐다.
업계 한 관계자는 "플랫폼은 더 많은 사람들이 유입되고 게시물이 활성화될 수 있도록 진입 장벽을 낮추고자 하는 심리가 있기 마련이다"며 "아직 국내 시장은 초기 단계기 때문에 제재나 규제 없이 빠르게 성장했지만 이 시장이 성숙해지려면 강화된 규정과 안전장치들이 나와야 한다"고 했다.
장미 기자 meme@chosunbiz.com