“AI 팩토리 시대, HPE의 특별함은 엔터프라이즈 특화”

“HPE의 전략은 남이 하는 것을 단순히 따라가지 않는다. ‘인공지능(AI) 팩토리’도 우리가 집중하는 엔터프라이즈 AI 시장에 바로 적용하기에는 맞지 않는 부분이 있다고 봤다. 이에 엔터프라이즈 시장의 프라이빗 클라우드 AI에 맞춰 HPE만이 제공할 수 있는 가치를 추가해 제공하고 있다.”

유충근 한국HPE 기술컨설팅 총괄 상무는 IT조선과의 인터뷰를 통해 최근 AI 시대 HPE의 전략에 대해 이와 같이 밝혔다. 엔터프라이즈 AI 시장은 계속 성장하고 있고 국내의 파트너들과 협력해 국내 고객들의 수요에 맞는 AI 기반 솔루션들을 제공할 것이라 제시했다.

HPE는 하드웨어와 솔루션 모두에서 ‘엔터프라이즈’ 환경을 우선으로 한다. 이에 최근 엔비디아가 제시한 ‘AI 팩토리’도 엔터프라이즈 환경에 특화해 HPE만의 가치를 담아 제시하고 있다. 하드웨어 측면에서는 모듈형 설계로 유연성을 높이고 ‘컨테이너형 데이터센터’ 등 변화에 빠르게 대응할 수 있는 독특한 솔루션을 갖춰 가치를 차별화했다. 

유충근 상무는 지난해 시장 전반에 대해 “IT 예산이 크게 늘어나지는 않았지만 그래픽처리장치(GPU) 서버 비중이 높았다. HPE의 경우 AI를 위한 GPU 서버의 비중이 30%대 정도였다. GPU 서버 이외의 다른 영역에 대한 투자 수요도 꾸준히 이어졌다”고 말했다. 이어 “가상화 환경에서 VM웨어(VMware)의 라이선스 변경 여파로 가상화 환경을 VM웨어에서 다른 제품 기반으로 바꾸려는 사례도 나타나고 있다”고 덧붙였다.

올해 상반기는 많은 기업들이 투자를 망설이는 모습이다. 지난해 큰 투자가 있었던 이유도 있지만, 현재 어떤 제품을 선택할지 결정이 어려운 문제가 있다. 유충근 상무는 “기업들이 예산이 있어도 쉽게 결정하지 못하는 모습이다. 엔비디아의 새 로드맵이 나오면서 어떤 제품을 선택할지 결정이 어려운 모습이다. 향후 이런 부분들이 정리되면 투자가 이어질 것으로 예상한다”고 말했다. 이 외에도 ‘국가 AI 센터’ 계획도 기업들의 AI 투자에 영향을 미칠 것으로 전망했다.

AI 시대의 차세대 테마로 꼽히는 ‘에이전틱 AI’와 ‘물리 AI’는 다음 세대 투자의 이유로도 주목받는다. HPE는 이에 대해 단기적으로는 ‘에이전틱 AI’에 관심이 모일 것으로 예상한다. 이와 함께 ‘디지털 트윈’과 ‘비주얼 컴퓨팅’ 영역에 수요가 늘어날 것으로 기대했다. 엣지 또한 공장이나 병원, 소매, 통신 등에까지 다양한 AI 활용 사례가 나오며 수요가 늘어날 것으로 전망했다. 한편 ‘추론(reasoning)’을 위한 초대형 인프라는 현재 국내에서 운영 가능한 환경이 많지 않은 문제가 있어 향후 이에 대응할 수 있는 데이터센터 시설에 대한 투자도 높아질 것으로 기대했다.

데이터센터와 서버 모두 ‘모듈형’ 아키텍처로의 변화가 본격화되고 있다. 이에 대한 업계의 실질적 표준은 ‘DC-MHS(Data center modular hardware system)’가 꼽히며, HPE는 물론 델, 슈퍼마이크로 등 주요 서버 업체들이 참여하고 있다. HPE는 이 DC-MHS 규격을 이미 지난 세대의 시스템에서부터 적용하기 시작했고 최신 ‘Gen12’에서는 적용 범위를 더 확대했으며 앞으로도 적용 범위를 더 넓힌다는 계획이다. 이러한 모듈형 구성은 지금의 모델 구성보다 사용자들에 더 다양한 선택지를 제공할 수 있을 것으로 기대했다.

유충근 상무는 “향후의 DC-MHS 규격에서는 주요 모듈을 필요에 따라 붙이는 ‘플러그 인 플레이’ 방식도 가능할 것이다. 지금은 구성하고 싶은 사양에 따라 모델이 나뉘는데 ‘플러그 인 플레이’ 시대에는 필요에 따라 모듈 블록을 조합할 수 있게 된다. 수 테라바이트(TB) 메모리 장착이나 수 페타바이트(PB) 스토리지 구성, 1U 폼팩터에 여러 GPU 장착 등 기존에는 별도 모델을 골라야 했던 선택이 모듈 조합으로 가능해진다. 현재의 ‘Gen12’도 이러한 모듈형 설계로 예전보다 조합할 수 있는 경우의 수가 많아졌고 고객의 다양한 요구를 수용할 수 있게 됐다”고 설명했다.

또한 새로운 ‘Gen12’ 서버의 특징으로는 인텔 ‘제온 6’ 프로세서와 ‘CXL 2.0’ 기술 지원을 꼽았다. ‘CXL(Compute Express Link)’는 2010년대 이야기되던 HPE의 ‘더 머신(The Machine)’ 프로젝트 등 ‘메모리 중심 컴퓨팅’ 콘셉트와 모듈형 아키텍처 등의 논의가 모두 모인 표준안으로의 의미가 있다. 하지만 이 또한 현실적으로는 성능 부족 등으로 아직 활용이 어려운 모습이다. 유충근 상무는 “현재 CXL의 과제는 대역폭이라고 본다. 추후 전송 속도가 높아질 차세대 규격에서는 기대할 만 하다고 본다”고 말했다.

최신 인프라에서 높은 발열을 해결하기 위한 방법으로 제시되는 ‘액체냉각’도 국내에서는 여러 어려움이 있다. 유충근 상무는 “액체냉각을 위해서는 이를 고려한 데이터센터 설계가 필요하다. 국내에도 이런 부분이 반영된 곳이 몇 군데 있고 검토하는 곳도 많다”고 말했다. 

이어 “지금 검토하면 데이터센터를 만드는 데 2~3년이 걸린다. 이 간극을 메우는 방법으로는 ‘컨테이너’형 데이터센터를 활용하는 방법을 제안하고 있다. HPE는 이 방법에 액체냉각 기술을 적용시켰고 크레이 EX 시스템을 집적해 어디서든 전기만 들어오면 바로 활용할 수 있게 제공하고 있다”고 덧붙였다.

한편, ‘액침냉각’ 기술은 아직 현실적으로 ‘이르다’고 평했다. 유충근 상무는 “액침냉각의 경우 기존 CPU 서버에서는 얻을 수 있는 이득이 적다. GPU 시스템의 냉각에서는 의미가 있지만 현재 엔비디아가 이에 대한 보증을 제공하지 않아 모두가 적용에 부담을 느끼는 상황이다”라고 말했다.

이어 “엣지에서는 큰 장비를 공간 효율적으로 냉각할 수 있어 의미가 있다. 현재 시장에서 액침 냉각의 비중은 10% 정도로 본다. 국내에서도 개념검증(PoC)은 많이 했지만, 고객들은 좀 더 기다리는 모습이다”라고 언급했다.

최근 AI 인프라 구축에서 중요한 화두로는 엔비디아가 제시한 ‘AI 팩토리’ 개념이 꼽힌다. 이는 하드웨어부터 소프트웨어 전반에 이르기까지 기업이나 조직에서 바로 ‘생산성’을 위해 투입할 수 있는 상태로 빠르게 구축하는 모듈형 구성이 특징이다. 하지만 HPE는 경쟁사들과 달리 이 ‘AI 팩토리’를 그대로 받아들이지 않은 점에서 차별화된다. HPE는 이에 대해 ‘HPE만이 제공할 수 있는 가치를 추가해 차별화하기 위함’이라 설명한다.

유충근 상무는 이에 대해 “HPE의 전략은 남이 하는 것을 그대로 따라 가지 않는다. 그동안 HPE는 소프트웨어 기업들도 많이 인수하면서 역량을 강화했고 ‘AI 팩토리’가 등장했을 때도 이에 동등한 수준의 구성을 HPE의 솔루션을 기반으로 직접 구성해 제시했다. AI 스택도 단순히 엔비디아가 제공하는 것을 그대로 사용하는 것이 아니라 우리의 것들로 만드는 것에 집중해 왔다”고 밝혔다. 

HPE의 지향점으로는 ‘엔터프라이즈 시장을 위한 프라이빗 클라우드 AI’를 꼽았다. 유충근 상무는 “엔비디아의 AI 팩토리 콘셉트는 모델을 찍어내는 거대 공장 같은 개념으로, 기업 환경과는 맞지 않는 부분도 있다. 기업 시장을 봤을 때는 기업 고객에 맞는 형태의 솔루션을 제공하는 것이 맞다고 봤다. HPE가 강세를 보이는 시장이 따로 있고, 우리는 ‘AI 팩토리’ 경쟁과는 차이가 있는 위치다. 우리는 기업을 위한 AI 팩토리와 프라이빗 AI 등에 주목하고 있다”고 밝혔다. 

이어 “대형 테크 기업 중심의 ‘AI 팩토리’ 시장은 규모가 크고 화제성도 있지만 실제 수익은 낮다고 봤다. 가격 경쟁이 심한 이 시장에서 HPE가 두각을 나타내기 힘든 것도 사실이다. 본사에서 진행한 10억달러(약 1조4200억원) 규모의 ‘GB200 NVL72’ 공급 사업도 실제 수익은 거의 남지 않았던 것으로 전해졌다. 이는 주요 업체들이 모두 비슷한 상황으로, ‘AI 팩토리’ 비중이 높아지면서 매출 대비 수익률은 많이 낮아진 상태다”라고 언급했다.

하지만 현실적으로 화제성 등으로 이 ‘AI 팩토리’ 시장을 무시할 수도 없다. 이에 HPE 또한 이 시장을 강화하기 위해 AI 팩토리를 HPE 식으로 해석한 ‘HPE 기반 엔비디아 AI 컴퓨팅’ 구성을 제시하며 시장에서 경쟁력을 높일 계획이다. 기업용 AI 시장에서도 HPE는 국내 AI 파트너들과 협력해 한국형 거대언어모델(LLM)이나 AI옵스(AIOps), AI 이노베이션 파트너를 만들어 국내 소프트웨어 개발사들과 협력해 AI 개발환경 등을 통합 제공하는 서비스도 제공하고 있다고 말했다.

유충근 상무는 “AI는 부침이 있지만 워크로드 기준으로는 단일 워크로드로 가장 큰 규모의 시장이다. 매 분기마다 수요가 늘어나고 있고, 대기업 뿐만 아니라 중견, 벤처기업들까지도 투자가 늘어나는 모습이다. 이러한 영역에서는 하드웨어 뿐만 아니라 솔루션이 요구되는 시장으로, 하드웨어 가격 경쟁력이 아닌 솔루션으로의 경쟁력과 차별화로 접근하고 있다”고 언급했다.

HPE의 ‘솔루션’ 중심 전략에서 또 다른 중요한 부분은 ‘그린레이크(GreenLake)’다. 유충근 상무는 “국내의 그린레이크 비중은 글로벌 시장 대비 낮은 편이다”며 “지금까지 하드웨어 중심으로 서비스를 번들 구성했던 판매 형태에 대한 인식 문제가 가장 크다”고 언급했다. 하지만 퍼블릭 클라우드에서 프라이빗 클라우드로 돌아오는 고객이나, AI 영역 등에서는 좋은 반응을 얻고 있고 국내에서도 대형 레퍼런스를 확보했다고 밝혔다. 그린레이크는 GPU 인프라의 2~3년 정도의 빠른 업그레이드 주기를 서비스 형태로 대응할 수 있어 대기업들이 서비스 개념으로도 사용하고 있다.

한편, HPE는 KISTI가 구축하는 슈퍼컴퓨터 6호기의 입찰에도 참여했다. 유충근 상무는 이에 대해 “크레이 EX 기반으로 입찰을 했고, 현재는 협상 중이다”라고 밝혔다. 이번 입찰에 성공하면 국가 슈퍼컴퓨터 5호기에 이어 연속으로 ‘크레이(CRAY)’ 기반 시스템이 구축되는 것이다. 

권용만 기자

yongman.kwon@chosunbiz.com