SKT “텔코 LLM으로 상담 서비스 품질 높였다”

“텔코 거대언어모델(Telco LLM) 도입으로 상담원은 고객 상담 시 더욱 효율적으로 필요한 정보를 찾을 수 있게 됐습니다.” 

SK텔레콤은 에릭 데이비스 인공지능 테크 콜라보레이션(AI Tech Collaboration) 본부장이 3월 19일 서울에서 열린 ‘앤트로픽 코리아 빌더 서밋’에서 클로드 활용 사례를 발표했다고 21일 밝혔다. 

‘앤트로픽 코리아 빌더 서밋’은 앤트로픽이 한국에서 처음 개최한 공식 행사다. 엔트로픽은 미국 AI 스트타업으로 오픈AI의 대항마로 꼽힌다. 이날 행사는 마이크 크리거 앤트로픽 최고제품책임자(CPO)와 케이트 얼 젠슨 매출 총괄 책임자 등이 참석해 한국 AI 개발자, 기술 리더, 미디어를 대상으로 클로드의 최신 기능과 연구 성과를 공개했다. 클로드는 앤트로픽 챗봇이다.  

SK텔레콤은 에릭 데이비스 본부장이 행사의 주요 패널로 참석했다. 그는 앤트로픽 조 주 스타트업 성장·파트너십 총괄 및 콕스웨이브, AI 검색기업 라이너, 리걸 테크기업 로앤컴퍼니 등 국내 AI 기업의 테크 리더들과 함께 클로드의 실제 서비스 적용 사례 및 활용 방안, AI 모델 발전 방향 등을 토의했다.

에릭 데이비스 본부장은 패널 토의에서 SK텔레콤이 고객센터에 도입한 텔코 LLM 사례를 소개했다. 

그는 “고객센터에 적용한 텔코 LLM은 내부 상담원이 사용하지만 결국 고객에게 영향을 미치는 서비스다”며 “SK텔레콤은 텔코 LLM을 사용하는 것이 실제로 고객을 만족시킬 수 있는 것인지에 대해 고민했고 고객 만족도를 높이기 위한 형태로 엔지니어링을 계속하고 있다”고 말했다.

SK텔레콤은 지난해 자체 개발 AI 모델 에이닷엑스(A.X)와 클로드 등을 포함해 멀티 LLM을 기반으로 텔코 LLM을 개발해 다양한 사내 운영 업무 및 비즈니스에 활용 중이며 이 중 고객센터에는 클로드를 적용한 텔코 LLM이 활용되고 있다.

서밋에 앞서 SK텔레콤은 앤트로픽 블로그를 통해 클로드를 베이스 모델로 파인튜닝된 텔코 LLM의 성과를 알리기도 했다. SK텔레콤은 고객센터에 텔코 LLM을 적용한 후 고객센터에 적용된 LLM의 저품질 응답 비율이 68% 감소했고 통화 후처리에서 AI의 응답 품질이 인간 상담원의 약 89% 수준으로 올라왔으며 고객센터 상담원이 상담에 활용한 후 평가한 점수도 기존 서비스에 비해 34% 높아졌다고 설명했다.

또 에릭 데이비스 본부장은 SK텔레콤은 텔코 LLM 고객센터 도입이 상담원들을 지원하고 보조하기 위한 것임을 강조했다.

에릭 데이비스 본부장은 “우리의 목표는 사용자의 업무 능력을 보강해 고객센터 상담원들의 스트레스를 줄이고 일하는 즐거움을 찾아주는 것이다”며 “이러한 행위는 궁극적으로 SK텔레콤 고객의 상담 경험 개선으로 이어져 상담원와 고객 모두에게 도움이 될 것이다”고 밝혔다.

이를 위해 “과거에는 고객센터 직원들에게 고객들의 불만 제기에 어떻게 대응하면 좋을지를 교육했다면 지금은 AI를 활용해 고객이 원하는 것에 대한 정보를 탐색하고 대응하는 데 도움을 주고 있다”며 “우리의 AI는 인간을 대체하는 것이 아니고 사람들의 삶의 질을 개선하는 것이다”고 말했다.

한편 AI 발전으로 인한 환경 변화에 대한 질문에서는 “SK텔레콤은 다양한 기업들과의 협업을 통해 각각의 상황에 따라 알맞은 모델을 활용할 수 있도록 멀티 LLM 전략을 진행하고 더욱 빠르고 더욱 효과적으로 일을 해결할 수 있도록 하고 있다”고 말했다.

에릭 데이비스 본부장은 서밋 현장에서 “SK텔레콤은 최근 고객센터에 AI를 도입하고 AI 통화요약 서비스를 선보이는 등 한국에서 게임 체인저 역할을 하는 서비스들을 선보여왔다”며 “앞으로도 고객과 구성원의 삶의 질을 향상시키기 위한 AI 기술을 개발해 나가겠다”고 밝혔다.

김광연 기자
fun3503@chosunbiz.com