“생성형 AI는 온프레미스가 62% 더 효율적… 델, AI 팩토리 제시”

“이미 한국에서도 기업의 절반 정도가 생성형 인공지능(AI) 여정의 초반을 넘어선 상태다. 그리고 AI 워크로드 실행에서 온프레미스에서의 실행은 클라우드보다 62% 더 효율적이고, 이런 효율은 멀티 에이전틱 시대에 더 각별해질 것이다.”

비벡 모힌드라 델 테크놀로지스 본사 수석부사장은 17일 서울 강남구 코엑스에서 개최된 ‘델 테크놀로지스 포럼 2025’의 기조연설을 통해 이와 같이 밝혔다. 

‘상상 속 가능성, 그 한계를 넘어서’를 주제로 열린 올해 ‘델 테크놀로지스 포럼 2025’는 국내외 AI 리더들이 나선 기조연설과 다양한 세션을 통해 AI 및 최신 기술에 대한 통찰력, 비즈니스 전략과 혁신 방향을 제시하는 자리로 마련됐다. 이번 행사에서는 기조연설과 함께 다양한 주제별 세션, 델과 파트너들의 기술과 제품을 만나볼 수 있는 ‘솔루션 엑스포’ 전시 공간도 마련됐다. 

비벡 모힌드라(Vivek Mohindra) 델 테크놀로지스 본사 수석부사장은 기조연설을 통해 “이미 한국에서도 기업의 절반 정도가 생성형 AI 여정의 초반을 넘어선 상태”라고 언급했다. 이어 앞으로의 AI 시대 여정에서 중요한 점으로 데이터와 데이터에 가까이 있는 AI, 사용 목적에 최적화된 AI, 인프라 레이어의 모듈형, 개방형 아키텍처, 광범위한 개방형 생태계 등을 꼽았다.

본격적인 AI 시대로의 여정에서 비용 효율적인 운영 환경으로 다시금 온프레미스 환경이 주목받고 있다. 비벡 모힌드라 수석부사장은 “AI 워크로드 실행시 클라우드보다 온프레미스가 62% 더 효율적이다”라며 “이러한 효율성은 멀티 에이전틱 AI 시대에 더욱 각별해질 것”이라 밝혔다. 이어 “델의 ‘AI 팩토리’는 이미 전 세계 3000여 고객사들이 도입했다. AI 팩토리는 생성형 AI의 위치와 데이터, 인프라와 생태계 등이 모두 결합돼 고객에 가치를 제공할 수 있다”고 덧붙였다.

엔비디아와의 협력으로 만들어진 ‘엔비디아 기반 델 AI 팩토리’는 다양한 인프라 구성 요소와 서비스들이 긴밀히 결합된 광범위한 생태계를 갖추고 완전 관리형 서비스 오퍼링까지 제공하고 있다. 또한 데이터에서는 스토리지와 데이터 레이크하우스, AI 데이터 플랫폼에 이르기까지 데이터 관련 당면 문제를 극복할 수 있는 다양한 방법을 갖췄다. 전력과 냉각 기술 면에서는 기존 환경에서도 냉각을 위한 에너지 비용을 60%까지 낮출 수 있는 ‘파워쿨 eRDHx(Enclosed Rear Door Heat Exchanger)’가 언급됐다. 

앞으로의 AI 시대에는 데이터센터에 대한 요구 조건에도 ‘데이터’가 핵심이 될 것으로 보인다. 비벡 모힌드라 수석부사장은 “앞으로는 데이터센터의 컴퓨트, 네트워크, 스토리지 구성 요소들이 모두 개별적으로 확장 가능하면서 하이퍼컨버지드(HCI)처럼 간편하게 관리할 수 있는 분리형 아키텍처가 AI 워크로드에 더 중요해질 것”이라 강조했다. 이어 “델은 더 높은 성능과 효율을 갖춘 최신 서버, 스토리지와 데이터 플랫폼, 데이터센터 자원 전반을 더 효율적으로 관리할 수 있는 자동화 플랫폼까지 갖추고 있다”고 말했다.

기업의 업무 환경에서 AI를 활용하는 데 있어, AI PC를 통한 PC에서의 AI 활용도 더욱 중요해질 것으로 예상된다. 비벡 모힌드라 수석부사장은 “한국 내에서도 92%의 기업이 AI와 생성형 AI 도구가 더 직관적이고 개인화된 애플리케이션을 지원할 것이라 기대하고 있다”며 “AI PC는 에너지, 비용 효율적으로 AI 워크로드를 실행할 수 있는 환경이다. 클라우드와 온프레미스, AI PC와 엣지 등 다양한 AI 워크로드 실행 환경 간 최적의 균형점을 찾아야 한다”고 제시했다.

이어 비벡 모힌드라 수석부사장은 “앞으로 AI를 제대로 쓰지 못하는 구형 PC를 사용하는 환경은 비즈니스에 병목 지점을 만들 것”이라며 “델은 다양한 특징을 갖춘 AI PC 라인업을 갖추고 있고, ‘델 프로 AI 스튜디오’를 통해 PC 수준에서 AI를 다룰 수 있게 돕는 검증된 도구를 제공하고 있다. 고객들은 이 AI 스튜디오를 활용해 AI 워크로드를 75% 더 빨리 구동하고 있다”고 말했다.

김경진 한국 델 테크놀로지스 대표는 이 자리에서 “요즘 세계는 AI로 돌고 있다고 표현할 수 있을 정도”라며 “새로운 모델들의 성능은 기존의 모델들을 크게 넘어서며, 이런 발전 속도는 앞으로 더 빨라질 것”이라 예상했다.

이어 “지금 우리는 AI와 사람간의 거대한 경주의 시대에 들어섰다”며 “우리는 AI보다 더 빨리 움직여야 살아남을 수 있을 것”이라 말했다. 그리고 “사람은 AI를 정복, 지배하는 쪽에 서야 한다. 이번 행사는 AI시대에 기업의 생존과 성장, AI와의 시간 싸움 속에서 근본적인 해답을 제안하고자 한다”고 덧붙였다.

유상모 한국 델 테크놀로지스 부사장은 이 자리에서 “비즈니스의 속도는 예전 어느 때보다 빠르게 움직이고 있다”며 “데이터를 이용해 과감한 의사결정을 하는 미래를 그려야 한다”고 강조했다. 또한 “국내에서도 기업의 87%가 ‘AI가 산업을 크게 바꿀 것’으로 인지하고 있다. 모든 영역에서 AI가 한계를 넓히고 있고, 에이전틱 AI의 혁신은 AI 도입 추세를 가속화시킬 것이다”라고 말했다.

AI 도입이 가속화되면서 이를 위한 데이터센터 또한 바뀌고 있다. 유상모 부사장은 “데이터센터에서 컴퓨트, 네트워크, 스토리지 자원 구성의 유연성이 더 중요해질 것이다. 이에 대응하는 IT 인프라의 분리형(Disaggregated) 아키텍처는 앞으로 당면할 데이터 폭증에 효과적으로 대비 가능하다”고 말했다. AI 시대의 또 다른 축인 ‘AI PC’에서는 국내 기업 중 49%가 향후 12개월 내에 AI PC에서 AI 모델을 직접 실행할 계획인 것으로 소개했다.

이번 ‘델 테크놀로지스 포럼 2025’의 기조연설 무대에 오른 김재원 엘리스그룹 대표는 “엘리스그룹은 교육을 위한 실습환경 특화 플랫폼을 개발해 왔고, 이를 위해 사업 영역을 클라우드까지 확장했다”고 소개했다. 또한 현재 지향점으로는 “기관, 기업이 가진 프로세스 안에서 활용할 수 있는 안전한 AI 환경 제공”을 꼽으며 엘리스클라우드 구성의 모든 과정에서 비용과 사용성 측면을 고려했다고 강조했다.

‘엘리스클라우드’는 모듈형 데이터센터 위에 클라우드 인프라와 데이터 플랫폼 등에 이르기까지 엔드투엔드 형태로 구축됐다. 이 플랫폼의 기반이 되는 모듈형 데이터센터는 델과의 협력으로 구현됐다. 김재원 대표는 “최신 모듈형 데이터센터는 랙당 80KW의 고전력밀도와 수랭식 설계를 기반으로 PUE 1.1의 고효율을 구현했다. 구축과 운영에서 비용 절감 효과도 크고, 3개월 정도면 빠르게 구축 가능하다”며 “현재 모듈형 데이터센터는 700개 이상 유료 고객사를 갖추고 있다”고 밝혔다.

이교구 수퍼톤 대표는 기조연설에서 “커뮤니케이션의 근간은 음성”이라며 “AI와 만나면 콘텐츠 창작과 커뮤니케이션에 혁신을 가져올 수 있다”고 말했다. 이어 “음성과 AI의 만남은 상상력을 확장하고 상상만 했던 것들을 구현하는 데 도움을 준다. AI는 인간의 동반으로 새로운 콘텐츠를 만들고 한계를 넘을 수 있도록 하는 조력자의 존재지, 사람의 대체는 아니다”라고 덧붙였다.

수퍼톤은 자체 파운데이션 모델 낸시(NANSY)에 사람이 목소리를 내는 원리를 반영해, 목소리를 구성하는 주요 특성을 분리해 훈련할 수 있는 구조를 갖췄다. 이런 구조를 통해 완성된 모델은 유연하고 다양한 활용이 가능하고, 음성과 텍스트 입력 모두를 받아 음성 데이터를 생성할 수 있다. 이교구 대표는 “이 모델은 노래나 영상물 등에서 감정을 살린 더빙에도 활용할 수 있고, 인터렉티브 스토리텔링까지 확장할 수 있다”고 소개했다.

권용만 기자

yongman.kwon@chosunbiz.com