잘못 큰 AI 챗봇 이루다 결국 중단

북마크 완료!

마이페이지의 ‘북마크한 기사’에서 읽으실 수 있습니다.

북마크한 기사 보러가기 close
입력 2021.01.11 21:39
인공지능(AI) 챗봇 이루다의 서비스가 결국 중단됐다.

AI 챗봇 개발사 스캐터랩은 11일 오후 입장문을 통해 이루다의 혐오·차별 관련 부적절한 대화 및 학습용 데이터 구축 과정에서 명확히 전달되지 않은 개인정보 활용에 대해 사과했다. 서비스 개선을 위해 이루다 서비스를 잠정 중단한다는 입장도 밝혔다.

이루다를 서비스 중인 스캐터랩 소개 이미지 / 스캐터랩
스캐터랩은 이루다의 부적절한 발언에 관해 "이루다의 발언은 회사 방향과 같지 않다. 해당 발언은 회사도 6개월간 베타테스트를 통해 막고자 노력했던 것이다"며 "이루다는 어린 아이 같은 AI다. 앞으로 개선을 통해 단순히 학습자의 대화를 그대로 습득하지 않고, 적절한 답변이 무엇인지도 판단하도록 학습시키겠다"고 말했다.

이어 "결과물로 나올 편향 대화 검출 모델은 모두에게 공개할 예정이다"며 "AI산업과 AI윤리 발전에 도움이 되길 바란다"고 덧붙였다.

스캐터랩은 학습용 데이터 구축 과정에서 제공자에게 개인정보 쓰임새를 명확하게 밝히지 않은 점도 사과했다.

스캐터랩은 "사전에 동의가 이뤄진 범위에서 사용했다"면서도 "명확하게 전달하지 못해 사과드린다"라고 밝혔다.

개인정보 유출 논란에 관해서는 "구체적인 개인 정보는 제거해 개인을 특정할 수 없을 것이다"며 문제가 없다는 입장이다.

송주상 기자 sjs@chosunbiz.com


0
주요 뉴스
지금 주목할 뉴스