“한국은 디지털 친화적(Digital Nativeness)이고, 인공지능(AI) 같은 새로운 기술을 적극적으로 받아들이는 성향이 강한 곳이다. LG CNS와 파트너십을 맺고 ‘에이전틱 AI 플랫폼’을 개발하는 것 자체가 굉장히 기분 좋은 작업이다. 고객들이 해당 제품을 통해 실제 투자 대비 효과(ROI)를 얻길 바란다.”
아이반 장(Ivan Zhang) 코히어(Cohere) 공동창업자는 30일 여의도 콘래드서울에서 열린 ‘LG CNS AX 페어 2025’ 직후 취재진을 만나 “LG CNS와 협력해 한국 시장에 진출하는 것은 자연스러운 선택이었다”며 이같이 말했다.
LG CNS는 이날 차세대 기업용 에이전틱 AI 플랫폼 ‘에이전틱웍스(AgenticWorks)’를 공개했다. 설계·구축·운영·관리 전 주기를 지원하는 모듈형 플랫폼으로 온프레미스·클라우드 모두 적용할 수 있다. 현재 금융권을 중심으로 10여개 고객사와 기술검증(PoC)을 진행하고 있다.
LG CNS와 글로벌 AI 스타트업 코히어는 에이전틱웍스의 6개 모듈 중 핵심인 노코드 개발 모듈 ‘스튜디오(Studio)’를 코히어의 엔터프라이즈용 AI 플랫폼 ‘노스(North)’ 기반으로 구현하는 등, 적극적으로 협력하고 있다. 앞서 지난 7월 양사는 1110억개(초대형), 70억개(경량형) 파라미터로 구성된 한국어 특화 초거대언어모델(LLM)을 공동 개발하기도 했다.
할루시네이션(환각) 대응 방안에 관해 아이반 장 공동창업자는 “기본적으로 AI 모델을 검색증강생성(RAG)을 잘 할 수 있도록 훈련한다”고 설명했다. 그는 “사용자들은 답변에 출처가 없다면 LLM이 제대로 된 답변을 하지 못 했다고 의심한다”며 “기업 내부 데이터와 신규 정보를 크로스 체크하며 답변하는 방식으로 할루시네이션 문제를 해결하고 있다”고 말했다.
임은영 LG CNS GenAI사업담당은 LG CNS 에이전틱 AI 플랫폼의 강점을 고객 맞춤형 파인 튜닝으로 꼽았다. 그는 “많은 고객이 파인 튜닝을 시도하지만, 오히려 파인 튜닝 과정에서 (에이전틱 AI의) 성능이 나빠지는 경우가 훨씬 많다”며 “어떻게 하면 파인 튜닝을 더 잘할지에 대해서 글로벌 테크기업과 공동 개발하는 데 좀 더 큰 의미가 있다”고 설명했다.
이들의 에이전틱 AI 솔루션에 가장 관심을 가지는 곳은 금융권이다. 임은영 담당은 “국내 금융권은 망 분리가 필수라 온프레미스(On-premise, 개별구축형) 수요가 크다”면서도 “SI(시스템통합) 기업은 특정 플랫폼 판매 회사가 아니라 고객 환경에 최적화된 솔루션을 제공하는 기업이며, 온프레미스의 보안 수준을 유지하면서도 성능을 낼 수 있는 모델과 플랫폼을 제공하는 것에 집중하고 있다”고 말했다.
LG CNS는 중소기업의 에이전틱 AI 진입장벽을 낮추기 위해 6개 모듈을 분리 제공하고 있다. 임 담당은 “개발자가 없어도 스튜디오 모듈 하나만으로 가볍게 에이전틱 AI를 개발할 수 있도록 모듈 단위로도 제공하고 있다”며 “직접 에이전틱 AI를 만들어 제공하는 방식도 고려하고 있으며, 6개의 모듈은 계속 고도화할 예정”이라고 설명했다.
일각에서는 기업들의 관성적인 AI 전환에 대한 우려도 나오고 있다. 이에 임은영 담당은 “고객들이 에이전틱 AI에 대한 기대감이 크지만, 이를 실행하다 잘못하면 누가 책임질 건지, 현재의 과정을 AI로 바꾸는 게 맞나에 대해 걱정한다”고 답했다.
그는 “책임소재를 명문화한 후 기술은 이후에 들어가는 등 고객사들도 준비가 필요하다”며 “단순히 사람이 하던 업무를 그대로 AI에 옮기는 게 아니라, AI에 맞는 프로세스를 설계해야 진정한 혁신이 이뤄진다”고 말했다.
“AI의 가장 중요한 성과 지표는 ROI”
최근 공공·금융 분야에서 해킹 사고가 이어지는 가운데, 아이반 장 공동창업자는 “코히어는 창업 초기부터 ‘보안’과 ‘프라이버시’를 최우선 철학으로 삼고 있다”고 설명했다. 그는 “데이터가 시스템 외부로 나갈 일이 없기 때문에 유출될 일이 없고, 인터넷 연결이 없는 환경에서도 구동할 수 있다”며 “아울러 AI 에이전트가 24시간 인프라를 감시해 이상 징후를 자동 탐지·대응하는 기능을 개발 중”이라고 설명했다.
장 공동창업자는 정부가 추진 중인 ‘독자 AI 파운데이션 모델’ 프로젝트에 대해 “매우 좋은 시도”라고 평하기도 했다. 현재 LG AI연구원은 컨소시엄 주관사로서 해당 프로젝트에 참여 중이며, 산업 현장 적용을 담당하는 역할을 맡고 있다.
그는 “(코히어 본사가 위치한) 캐나다 또한 한국과 같은 방향으로 ‘소버린(주권) AI’를 추진하고 있다. 데이터가 국경 밖으로 나가지 않는 구조가 중요하다”며 “국가마다 문화와 선호가 달라서 각 나라에 맞는 모델을 따로 훈련시킬 필요가 있다”고 말했다.
에이전틱 AI의 미래 가능성에 대해 아이반 장 공동창업자는 “지금 인간이 수행하는 디지털 노동 상당 부분이 자동화될 수 있다”며 “특히 에이전틱 AI는 금융뿐 아니라 공공·제조·의료·에너지 등 민감 데이터를 다루는 산업 전반으로 확장할 가능성이 크다”고 전망했다.
아이반 장 공동창업자는 에이전틱 AI의 성과는 “고객이 얼마나 사업적 가치를 얻어가는지가 더 중요한 포인트”라고 강조했다. 그는 “공개 벤치마크가 되는 것보다 중요한 지표는 고객 ROI”라며 “우리의 기술이 고객의 비즈니스 문제를 실제로 해결했는지, 효율성을 높였는지가 성패를 좌우한다”고 말했다.
임은영 담당은 “LG CNS는 에이전틱웍스로 내년 국내 에이전틱 AI 시장을 선점하겠다”며 “(현재는) 코히어와 국내 시장에 집중하고 있지만, 향후 글로벌 확장도 함께 모색할 것”이라고 밝혔다.
김경아 기자
kimka@chosunbiz.com