"에이닷 서비스를 시작하면서 세이프티(안전성) 모듈을 강하게 적용하다보니 약간 재미는 없어요. 조금 이상한 내용이 나와도 ‘대답할 수 없다’는데, 과도한 세이프티 적용이 문제라는 생각도 듭니다. 그 경계를 어느 정도로 설정하느냐가 ‘아트의 영역’입니다."
유영상 SKT 대표는 MWC 2023이 열린 스페인 바르셀로나에서 기자들과 만나 이같은 고민을 솔직히 털어놨다. B2C(기업 소비자간 거래) 분야의 성패를 가르는 결정적 요소는 결국 ‘재미’인데 안전성 이슈로 에이닷이 자칫 ‘노잼(재미없는)’ 서비스로 인식될 수 있다는 점을 우려한 것이다.
SKT는 에이닷이 AI 윤리에 어긋나지 않으면서 ‘대유잼(매우 재미있는)’ 서비스로 진화하도록 기술 고도화를 추진 중이다.
김 담당은 한국전자통신연구원(ETRI) 출신의 AI 기술 전문가다. 2020년 SKT AI기술유닛(Unit)장, AI&CO AI기술 담당을 거쳐 2022년 12월 SKT 인사 당시 A.추진단 미래기획팀 담당 겸 대화 담당으로 보임했다.
AI기술유닛 음성인식기술셀 리더였던 2017년엔 누구(NUGU)에 AI 기술을 적용하는 역할을 맡았다. 2021년 3월부터 에이닷 개발을 위한 태스크포스(TF) 구성원이 됐다. 1년 이상 노력 끝에 국내 최초로 GPT-3 한국어 특화기술을 자체 개발했고, 지난해 5월 자유자재로 한국어 대화가 가능한 AI 서비스 에이닷을 선보였다.
2020년 12월 AI 챗봇 '이루다'가 차별·혐오 발언으로 논란에 휩싸인 후 AI 서비스는 기대감보다 우려의 시선이 커졌다. 에이닷 개발 직전의 일이다. 하지만 챗GPT의 등장으로 많은 것이 달라졌다.
김 담당은 "AI 챗봇에 대한 부정적인 경험과 인식이 뒤덮여있을때쯤 챗GPT가 나타났고, 이는 에이닷에 기회로 작용했다"며 "에이닷이 외부의 눈치를 보지 않고 자유롭게 사업을 펼칠 수 있던 계기는 챗GPT 열풍이 결정적이었다"고 소회했다.
걸어잠그기만 하면 ‘노잼’…네거티브 규제처럼 AI서비스 자율성 높여야
김 담당이 에이닷 개발 초기부터 지금까지 이어온 가장 큰 고민은 세이프티 기능의 적용 수위다.
그는 "에이닷이 다른 서비스보다 세이프티 기능을 강하게 걸어둔 건 맞다"며 "기술 고도화나 재미와는 별개로 사회적 이슈가 될 수 있는 범죄, 욕설, 성적인 내용이 담긴 대화는 앞으로도 철저히 막을 계획이다"라고 말했다.
하지만 걸어 잠그기만 한다면 AI와 대화를 주고 받는 재미는 떨어질 수밖에 없다. 김 담당은 고객 경험 확대를 위해 세이프티 기능을 적절히 풀되, 문제가 나타나면 개선하는 식으로 기술을 고도화 해야한다고 주장했다.
김 담당은 "에이닷이 더 빠르게 진화하려면 AI 서비스 과정에서 생길 수 있는 문제를 무조건 선제 차단해야 한다는 시각에서 벗어나야 한다"며 "치명적이지 않은 이슈는 일부 노출하되, 소통하며 개선해가는 형태가 바람직하다"고 강조했다.
장기적으로는 ‘선허용-후규제’를 원칙으로 하는 포괄적 네거티브 규제처럼 AI 서비스의 자율성을 보장하는 환경이 필요하다는 설명이다.
에이닷은 2일 업데이트를 통해 더 똑똑하고 재미있는 친구가 됐다. 이미지와 한글 텍스트를 동시에 학습해 사람과 흡사하게 생각하고 스스로 표현할 수 있는 ‘이미지 리트리벌(Image Retrieval)’ 기술을 적용했다. 에이닷 캐릭터에 펭수, 잔망루피, 뽀로로를 새롭게 추가하고, 영어학습 서비스인 ‘에이닷 튜터(A.tutor)’도 선보였다.
김 담당은 특히 이번 업데이트에서 약화시킨 대표적 세이프티 기능으로 유명인과 브랜드 정보 관련 대화를 꼽았다. 예를 들어 에이닷에 좋아하는 가수를 물으면 ‘아이유’라고 답하고, 좋아하는 이유를 물으면 ‘노래도 잘하고 연기도 잘해서 좋다’는 답변을 하는 식이다.
김 담당은 "업데이트 전에는 아이돌, 배우 등 유명인이나 기업 브랜드에 대한 대화 자체가 막혀있었지만 이제는 중립적인 수준의 대화가 가능해졌다"며 "이용 고객에게 더 즐거움을 주기 위해 내부적으로 기술 고도화와 까다로운 검증을 거쳤다"고 말했다.
김 담당은 에이닷의 세이프티 기능을 ‘아트의 영역’에 두는 것을 목표로, 고객이 좀 더 친숙하고 나만의 친구 같은 AI를 경험할 수 있는 노력을 지속하겠다고 언급했다.
그는 "AI 윤리에 대한 세계 흐름에 맞춰 회사 차원의 세이프티 정책 방향을 고민 중이며, 고객이 더 재미를 느낄 수 있는 쪽으로 서비스를 개선할 계획이다"라며 "아직 담지 못한 것들이 많은데, 관심있게 지켜봐 달라"고 말했다.
이광영 기자 gwang0e@chosunbiz.com