미국 텍사스주 법무부가 메타, 캐릭터.AI 등 AI 챗봇 플랫폼 조사에 착수했다. 정신건강 관리 도구처럼 홍보했지만 실제로는 의학적 자격이나 감독 없이 운영된다는 이유다. 텍사스 법무부는 어린이 등 취약계층이 이런 AI 챗봇에 악영향을 받을 수 있다는 점을 우려하고 있다.
19일 테크크런치 등 외신에 의하면 켄 팩스턴 텍사스 법무장관은 메타 및 캐릭터.AI 등 AI 챗봇 플랫폼의 소비자 기만 여부 조사를 위해 민사조사요구서(CID)를 발송했다. 메타를 비롯한 AI 챗봇 플랫폼은 사용자 정보를 기밀로 유지한다고 주장하면서 실제로는 사용자 데이터를 수집해 맞춤형 광고와 알고리즘 개발에 활용해 왔다는 의혹을 받는다.
켄 팩스턴 텍사스 법무장관은 “텍사스의 아이들을 기만적이고 착취적인 기술로부터 지켜내기 위해 계속 싸워야 한다”며 “AI 플랫폼이 수집된 개인정보를 바탕으로 구성한 걸 감정적 지원을 제공하는 척해 아동 같은 취약계층이 실제 심리상담치료를 받는다고 믿게 만든다”고 말했다.
변인호 기자
jubar@chosunbiz.com
관련기사