미국의 30년차 베테랑 변호사가 생성형 인공지능(AI) 챗GPT를 활용한 판례를 인용했다가 거짓 판례로 확인돼 제재를 받게 될 위기에 놓였다. 생성형AI를 활용한 업무 전환이 활발해지고 있지만 아직까진 진위여부를 판단하는 능력이 부족하기 때문에 주의를 기울여야한다는 지적이 나온다.
카스텔 판사는 "슈워츠 변호사가 제출한 서류엔 거짓 인용이 있는 가짜 사법 판결이다"라며 "존재하지 않는 사건을 다뤘다"고 지적했다.
앞서 슈워츠 변호사는 2019년 8월 엘살바도르에서 미국 뉴욕으로 가는 콜롬비아 아비앙카항공의 여객기를 이용한 로베르토 마타씨의 사건에서 마타씨의 변론을 맡았다. 마타씨는 여객기에서 음식 운반용 철제 카트에 부딪혀 무릎을 다쳤다며 법원에 소송을 냈다.
아비앙카항공은 공소시효가 지났다며 뉴욕남부연방법원에 기각해줄 것을 요청했으나 슈워츠 변호사는 소송을 계속 진행해야한다며 6건 이상의 유사 판례를 담은 10페이지 분량의 의견서를 법원에 제출했다. 그러나 그가 인용한 판례 중 6개가 실제로 존재하지 않는 거짓인 것으로 나타났다.
슈워츠 변호사는 "오픈AI의 챗GPT를 연구에 사용했다"고 뒤늦게 밝혔다. 그는 관련 판례가 참인지를 알기 위해 챗GPT가 인용한 사례가 거짓이 아닌지 재차 물었지만 챗GPT는 모두 ‘참’이라고 답했다며 재판부에 선처를 호소했다.
더 버지는 "다른 곳에서 판례(사례)를 확인하지 않고 연구를 위해 챗봇을 사용하는 것은 부적절하다"며 "마이크로소프트 빙, 구글의 AI 챗봇인 바드도 거짓말을 한 사례가 있다. 이번 사건은 판사가 변호사의 브리핑이 완전한 거짓말 축제였다는 점을 지적한 대표 사례다"라고 보도했다.
이선율 기자 melody@chosunbiz.com