AI 소비자화 시대, 미래지향적 클라우드 전략 세워야 (종합)[AI&CLOUD 2024]

본격적인 인공지능(AI) 시대에 접어들면서 신뢰성 향상을 위한 방법, AI 서비스 확대를 뒷받침하는 클라우드 데이터센터 인프라 스케일업 전략, 그리고 AI 규제에 대해 집중적으로 논의하는 자리가 마련됐다.

조선미디어그룹의 디지털 전환 전문 매체 IT조선은 27일 서울 중구 웨스틴조선호텔에서 국내외 기업의 AI 혁신과 클라우드 전략을 살펴보는 ‘AI&COULD 2024’ 콘퍼런스를 개최했다.

이번 행사에는 AI 및 클라우드 분야를 대표하는 정부와 학계, 기업 등 주요 인사는 물론 일반 참가들이 자리를 가득 메워 ‘AI 시대’를 실감케 했다.

콘퍼런스는 오전 10시부터 오후 5시 10분까지 기조연설과 AI&클라우드 트렌드 및 기업들의 전략을 들어보는 세션 발표, 패널토의 등으로 진행됐다.

첫 기조연설자로 나선 엄열 과학기술정보통신부 인공지능기반정책과 국장은 AI 혁신과 글로벌 AI 규범 정립을 동시에 이뤄나가야 하는 시점에서 한국의 리더십이 발휘돼야 함을 강조했다.

엄 국장은 “한국의 AI가 정책 및 제도에서는 높은 수준인데 반해 인력·R&D·민간 부문에선 미흡한 측면이 있다”며 “그 부분을 집중 파악해서 향후 정책 지원에 참고하고, 정부와 민간이 합심해 AI 3대 강국의 기틀을 마련하겠다”고 말했다.

정우진 KT 컨설팅그룹 전무는 AI 혁신 시대에 따른 클라우드의 중요성에 대해 강조했다. AI가 일상화되고 본격적인 서비스가 나오게 되면 클라우드 컴퓨팅 자원이 마련돼야 한다는 것이다.

정 전무는 “AI와 클라우드의 접점은 당연히 GPU에 있다고 본다. KT는 이러한 컴퓨팅 인프라 구축을 통해 AI 에이전트, AI 어시스턴트 등 통신기업이 가지는 차별점을 강화해 나갈 것”이라며 넥스트 클라우드 컴퓨팅의 방향성을 제시했다.

넥스트 클라우드 컴퓨팅의 한 방향성으로 AI 반도체에 대해서도 언급됐다. 류수정 사피온 대표는 “데이터센터 쪽에서는 AI에 대한 부담이 커지고 있다. 데이터센터에 AI 반도체가 투입되는 현황을 보면 GPU 비용이 20%가량 상승하고 있다”며 “AI 반도체는 GPU 대비 저전력으로 AI를 돌릴 수 있고, 도입 비용도 크게 낮출 수 있다”고 말했다.

AI 기반의 서비스가 확장됨에 따라 기업은 AI를 통해 업무 생산성과 효율을 높이기 위한 노력이 필요하다는 조언도 나왔다. 공성배 메가존클라우드 AI&데이터분석센터 센터장은 “생성형 AI로 회의록을 정리한다든지 하는 걸 보통 회사들이 막아놓기 때문에 직원 개인메일로 하는데 회사가 이를 관망하는 상태다”며 “이런 섀도 IT 관련 부분을 기술 문화적으로 전환하려면 관망이 아니라 관리해야 한다”고 말했다.

기업에서의 관리뿐만 아니라 AI의 신뢰성과 전문성이 확보돼야 한다는 부분도 논의됐다. 임우형 LG AI연구원 상무는 “각 산업군에서 AI 수요가 높지만 현장 적용에 기술이 충분한 상태인지는 살펴봐야 한다”며 “학습 데이터를 기반으로 답변하는 게 AI의 기본 속성인 만큼 거짓 정보를 사실인 것처럼 말하거나 유해성 필터링 없이 정보를 제공할 수 있다”고 말했다. 
 

오후 세션에서는 ‘AI와 데이터’에 대한 관점이 집중적으로 논의됐다.

송승호 한국마이크로소프트 애저 비즈니스 총괄 팀장은 AI의 잠재력은 분명하며, 이제 무엇을 구축 할 것인가가 문제다”며 “중요한 것은 LLM이 아니라 기존 데이터를 AI에 어떻게 효율적 활용할 것인가이다”고 말했다.

정지환 한글과컴퓨터 개발본부장은 “과거에는 문서가 생산되고 유통되는 것에 그쳤지만 최근에는 문서가 데이터 그 자체로 역할이 확대됐다”며 문서를 보다 잘 데이터화하고 활용이 용이하게끔 하는 것이 중요함을 강조했다.

황민영 셀렉트스타 부대표는 RAG에 대한 관심이 높아지고 있음을 언급하며, 이는 할루시네이션(환각 현상) 문제를 해결하고자 하는 노력의 하나로, 많은 AI 서비스에서 적용되고 있는 최근 현황을 언급했다. 황 부대표는 RAG와 함께 AI 기반 성능을 높이는 핵심으로 ‘구조화 된 데이터’를 제시했다.

차지원 SK C&C G.AI 그룹장은 데이터로 인한 할루시네이션 등의 문제를 해결하는 방법으로 ‘AI 에이전트’를 제시했다. 차 그룹장은 “AI 에이전트는 LLM이 데이터를 읽고 답을 하는 과정에서 LLM 기능만으로도 해결이 어려웠던 부분을 도와주는 AI다”며 “다만 이를 실현하기 위해서는 구조화 에이전트, 프롬프트 개선 에이전트, 검증 에이전트, 데이터 분석 에이전트 등의 전문 요소가 필요하다”고 말했다.

클라우드 관점에서의 AI에 대해서도 논의됐다.

이재한 카카오엔터프라이즈 사업부문장은 “클라우드 발전으로 서비스 개발 주기가 짧아지고 있다. 클라우드는 계속 발전하고 있고, 이렇게 발전하는 클라우드와 생성형 AI가 조합된다면 앞으로 우리 삶과 비즈니스는 그 전 어떤 혁신보다 다양하고 빠르게 변화될 것”이라 말했다.

클라우드와 AI의 빠른 변화에 대응하기 위해서는 글로벌 경쟁력을 갖춰야 한다는 의견도 제시됐다. 오후 마지막 세션으로 진행된 패널토의에서 서광규 상명대 교수는 “AI는 파괴적 기술 중 하나로 규제와 정책이 나왔을 때 그 사업 기회를 어떻게 찾을 수 있는가가 중요하다”며 “세계 경쟁이 불가피한 가운데 각국 정부의 규제와 정책에 맞춰 사업을 잘 만들지 않으면 어긋날 수도 있다”고 분석했다.

김은주 한국지능정보사회진흥원(NIA) 본부장은 “기존 시스템(레거시)을 중심으로 신기술을 논의하면 기존 규제로 인해 발목이 잡힐 가능성이 굉장히 크다”며 “클라우드 신질서에 관한 논의를 진행해야 한다”고 말했다.

김우성 한국딜로이트 그룹 전무는 “딜로이트는 클라우드 컨설팅을 할 때 중립적인 설계를 추구했지만 최근에는 업무의 편의성과 효율을 높일 수 있는 방향의 컨설팅을 추구하는 기조를 취하고 있다”며 “기업에 맞는 기술 구축만을 고집하기보다, 기업의 목표와 특성 등 여러 요소를 고려해 ‘구축’과 ‘구독’을 적절하게 선택해야 한다”고 말했다.

한편, 세션 세번째로 진행한 패널토론에서는 'AI 플레이어 육성과 생태계 전망'을 주제로 인력 확보 및 양성의 중요성에 대해서도 논의가 오갔다.

윤종영 국민대학교 소프트웨어융합대학교 교수가 좌장을 맡고 패널로 김우성 한국딜로이트 그룹 전무, 임현주 주한캐나다대사관 수석상무관, 안홍준 한국소프트웨어산업협회 혁신성장본부장이 참석했다.

토론에 참석한 패널 모두 "AI 기술의 발전과 규제의 균형을 맞추는 게 가장 중요하다"는 의견에 입을 모았다.

조상록 기자 jsrok@chosunbiz.com