“한국 기업의 AI 도입, 기술 검증은 빠르지만 활용은 미흡”

“국내 기업들이 새 기술을 검증하려는 움직임은 빠르다. 하지만 이 단계를 잘 벗어나지 못한다. 기술은 검증했지만 기업의 프로세스에 기술을 적용하는 부분에서 어려움을 겪는 경우가 많다.”

공성배 메가존클라우드 최고AI책임자(CAIO)는 4일 서울 강남구 AWS코리아 사무실에서 열린 기자간담회의 대담 세션에서 국내 기업들이 AI 도입에서 겪는 현실적 어려움에 대해 이와 같이 말했다.

AWS는 이 자리에서 스트랜드 파트너스(Strand Partners)와 함께 진행한 ‘한국의 AI 잠재력 실현(Unlocking South Korea’s AI Potential)’ 보고서의 주요 내용도 함께 소개했다. 국내 기업 리더 1000명과 일반인 1000명이 참여한 이번 보고서에서, 한국 기업의 AI 도입률은 빠르게 높아지고 있지만 활용 수준은 상대적으로 ‘기본적’ 수준에 그치는 것으로 나타났다. 스타트업의 활용 수준이 높은 것에 비해, 대기업의 경우 활용 수준도 낮고 상대적으로 인재와 기술 확보에도 어려움을 겪으면서 ‘양극화된 AI 경제’ 구조에 빠질 가능성이 있는 것으로 나타났다.

공성배 메가존클라우드 CAIO는 이 자리에서 “AI 자체가 새로운 존재였지만 지금은 누구나 AI를 이야기하는, 상식이 바뀌는 시대에 직면했다”고 운을 뗐다. 그는 “초기에는 기업들이 AI에 대해 지적 호기심에 따라 모델 자체 기능 활용 정도로 접근했다면, 지금은 RAG(검색증강생성), 에이전트 활용까지 이어지고 있다. 회사의 프로세스에 에이전트를 적용하려는 움직임을 보이고 있다”고 말했다. 

이어 “국내 기업들의 강점은 새 기술을 검증하려는 움직임이 빠르다는 것이지만, 문제는 이 단계를 잘 벗어나지 못한다”며 “기술은 검증했지만 기업의 프로세스에 기술을 적용하는 부분에서 어려움을 겪는 경우가 많다. 우리는 이런 어려움을 넘을 수 있는 방안을 지원하고 있다”고 언급했다. 또한 메가존클라우드는 ‘아마존 Q’를 내부적으로 활용하면서 “생산성 향상에 대한 분명한 효과를 체감하고 있다”고 밝혔다.

메가존클라우드는 좋은 모델과 인프라를 기업에 어떻게 활용할 수 있을지에 대한 기업들의 고민 해결을 지원하는 부분에 집중하고 있다. 공성배 CAIO는 “때로는 기업들이 어디서부터 출발해야 할지 시작과 방향성을 잡지 못하는 경우도 있다. 이런 경우 시작점과 방향을 잡고 오해를 줄이는 역할을 제공하는 것이 중요하다. 작은 규모라도 성공의 경험을 할 수 있게 지원해야 한다”고 설명했다. 

또한 “규제 준수 관련에서는 각 국가별로 규제들이 다른데, 산업이 좀 더 활성화되면 기술적으로는 규제가 좀 더 풀어질 수도 있을 것으로 기대한다”고 덧붙였다.

정진우 트웰브랩스 공동창업자 겸 이사는 이 자리에서 “AWS와 함께 초거대 영상이해 AI 모델을 구현하는 데 필요했던 컴퓨팅 자원 확보와 안정적 활용 측면을 해결했다”며 “최신 GPU 자원을 빠르게 확보하고 안정적으로 활용함을 넘어, 세이지메이커 하이퍼팟으로 기존에는 학습용과 추론용이 분리돼 있던 환경을 하나의 자원 풀에서 필요에 따라 쓰는 환경을 확보했다”고 말했다.

이어 “트웰브랩스의 모델은 아마존 베드록 서비스와 마켓플레이스를 통해 전 세계 고객에 접근하고 있다”며 “향후의 방향성은 ‘비디오 에이전트’다. 하나의 챗 인터페이스 내에서 소통하듯이 영상을 기반으로 원하는 영상을 찾고 의사결정까지 지원할 수 있는 통합적인 엔드투엔드 시스템을 제공하고자 한다”고 말했다.

규제 측면에 대해서는 “규제 측면은 도전이자 기회고, 쉽게 간과할 수 있는 영역이다. 미국 진출에서 가장 중요시했던 것도 규제와 법률 관련이었다”며 “현재 한국도 AI 기본법이 나왔고 미국도 관련 법령이 나오는 상황이다. 전 세계적으로 기조는 ‘완화’가 논의되고 있다. 선제적으로 준비해서 윤리적이고 규제를 준수하는 AI를 만들어 가고자 한다”고 밝혔다. 이어 “우리가 만든 AI를 전 세계 사람들이 쓸 수 있게 하는 것이 진정한 소버린 AI라 본다”며 “AWS와 협력해 이러한 목표를 달성하고자 한다”고 말했다.

닉 본스토우(Nick Bonstow) 스트랜드 파트너스(Strand Partners) 디렉터는 이 자리에서 한국의 AI 잠재력 실현(Unlocking South Korea’s AI Potential) 보고서의 주요 내용을 소개했다. 이번 보고서는 AWS가 스트랜드 파트너스(Strand Partners)와 함께 진행했으며, 유럽에서는 3년째 진행됐고 올해는 글로벌 차원으로 확장됐다. 국내 조사에서는 국내 기업 리더 1000명과 일반인 1000명을 대상으로 진행했다. 

이번 보고서에서는 국내 조직의 48%가 ‘AI를 도입, 활용하고 있다’고 응답했고, 전년의 40% 대비로는 8%p(퍼센트포인트) 정도 올랐다. 한국 조직들의 AI 도입은 유럽의 42% 대비 더 높은 것으로 나타났다. AI를 도입한 기업들은 79%가 생산성 향상 효과를 확인했고, 56%가 실질적인 매출 증가를 경험했으며, 주당 평균 업무 절감 시간도 13시간을 기록하는 등 구체적인 이점을 제공하고 있는 것으로도 조사됐다.

하지만 현재 국내 조직의 AI 도입 수준은 전반적으로 낮은 단계로 평가됐다. 도입 기업의 70% 정도는 자동화 등 기초적인 수준에 머무르고 잇는 것으로 파악됐는데, 이는 유럽의 61%보다 높은 모습이다. 그리고 다양한 업무 영역에 AI를 통합해 활용하는 중간 단계는 7%, 여러 AI 도구나 모델을 결합해 복잡한 업무를 수행하는 ‘변혁적 단계’는 11%에 그치는 것으로 나타났다. 

기업의 규모에 따른 활용도 차이도 나타났다. 국내 스타트업의 경우 70%가 AI 기반 운영 및 서비스 활용 확대에 나서고 있는 것으로 나타났으며 유럽의 58%에 비해서도 큰 격차를 보였다. 활용 깊이에서도 스타트업은 33%가 AI를 비즈니스 모델과 전략의 핵심으로 두고 있고, ‘변혁적 단계’ 활용에 이른 경우도 32%로 나타났다. 하지만 대기업의 경우 상당수가 AI도입에서 기초적 수준에 머무르는 것으로 나타나 ‘양극화된 AI 경제’ 구조에 빠질 수 있다고 지적했다. 인재 확보 측면에서도 스타트업이 좀 더 앞서 나가는 모습으로 나타났다.

이번 보고서에서 현재 기업들이 직면한 3대 과제로는 기술, 자금, 규제환경이 꼽혔다. 이 중 기술 측면은 특히 ‘인재 부족’이 지목되며, 기업의 43%가 디지털 인재 격차로 인해 AI 도입 또는 확산이 어렵다고 응답했다. 자금 측면에서도 여러 지원책들이 AI 도입에 중요한 역할을 하며, 정부 지원정책과 벤처캐피탈 등 자본조달 체계 강화가 AI 활성화에 도움을 줄 것이라 제시됐다. 규제 측면에서는 ‘AI 기본법’의 등장 등에 규제준수 관련 지출이 늘어날 것으로 예상되며, 명확하고 예측 가능한 환경이 기업들이 당면한 어려움을 줄일 수 있을 것이라 제안했다.

김선수 아마존웹서비스 인공지능·머신러닝(AI/ML) 사업개발 수석 스페셜리스트는 ‘아마존 베드록(Bedrock)’에 대해 “잘 갖춰져 있는 모델을 쉽게 가져다 쓸 수 있는 매니지드 서비스”라며 “아마존 베드록은 새로운 모델들까지 같은 API로 가져다 쓸 수 있다. 비용이나 성능, 정확도 최적화도 제공하며, 고객 데이터를 기반으로 한 커스터마이즈도 가능하다”고 장점을 꼽았다. 현재 아마존 베드록은 트웰브랩스의 모델을 포함해 12개사의 주요 모델을 제공하고 있고, 베드록 마켓플레이스를 통해 더욱 다양한 모델을 활용할 수 있는 구조다.

고객의 데이터를 기반으로 한 최적화 측면에서도 다양한 기술을 지원한다. 검색증강생성 구현 측면에서는 지식베이스 혹은 벡터 검색을 사용할 수 있는 데이터베이스 서비스를 선택할 수 있고, 멀티모달 콘텐츠에서 데이터를 추출하고 구조화된 데이터를 생성하는 ‘아마존 베드록 데이터 오토메이션’ 등도 등장했다. 데이터 프라이버시 측면에서는 “AWS는 고객의 자료를 고객의 모델 이외에는 절대 사용하지 않고, 안전하게 관리되며, 주요 글로벌 규제들을 모두 만족한다”고 강조했다. 

AWS는 ‘에이전틱 AI’ 시대로의 움직임에도 대비하고 있다. 이미 AWS 내부에서도 에이전트를 활용해 1만개 이상의 앱 마이그레이션에 도움을 받았고 개발자의 시간을 4500년 이상 절약했으며, 비용 측면에서는 매년 2억6000만달러(약 3545억원) 가량을 절감하고 있다. 고객사 사례에서도 무디스의 경우 재무분석 프로세스 소요시간을 1주일에서 1시간으로 단축시켰다고 소개했다. 김선수 스페셜리스트는 이에 대해 “반복적 업무와 복잡한 업무를 에이전트로 적용하면 큰 생산성 향상 효과를 얻을 수 있다”고 말했다.

권용만 기자

yongman.kwon@chosunbiz.com