HPE, AI 네이티브 포트폴리오 대거 선보여…“엔비디아와 공동 설계”

HPE는 생성형 인공지능(AI), 딥러닝, 머신러닝 애플리케이션의 운영 고급화를 위한 통합적인 AI 네이티브 포트폴리오를 업데이트 했다고 발표했다. 이번 업데이트에는 엔비디아의 새로운 ‘블랙웰’ 기반 GPU 탑재 시스템과 함께 기업에서 AI 애플리케이션을 빠르게 구축, 배포할 수 있게 지원하는 다양한 기술과 서비스들이 포함됐다.

HPE는 대규모 AI 모델의 개발 및 훈련을 위해 사전 구성 및 테스트된 풀스택 솔루션을 원하는 기업을 위해 생성형 AI용 HPE 슈퍼컴퓨팅 솔루션을 선보였다. 고객들이 생성형 AI 및 딥러닝 프로젝트 개발을 가속할 수 있도록 최적화된 목적 기반의 턴키 솔루션은 최대 168개의 엔비디아 GH200 그레이스 호퍼 슈퍼칩(GH200 Grace Hopper Superchip)이 제공된다.

이 솔루션은 대기업, 연구소 및 정부 기관들이 인공지능 및 머신러닝 소프트웨어 스택을 활용한 모델 개발 과정을 더욱 단순화할 수 있도록 지원한다. 또한 설치에서부터 운영까지 모든 서비스가 제공되는 턴키 솔루션을 이용해 AI 연구 센터와 대기업은 가치 창출까지의 시간을 더욱 단축하고 훈련은 2~3배 더욱 신속히 진행할 수 있다. 

HPE의 생성형 AI용 엔터프라이즈 컴퓨팅 솔루션은 사용량 기반 과금 모델 기반의 HPE 그린레이크(HPE GreenLake) 서비스를 통해서도 이용할 수 있다. 엔비디아와 공동 엔지니어링해 사전 구성된 미세 조정 및 추론 솔루션은 생성형 AI 애플리케이션을 제작하기 위해 필요한 정확한 컴퓨팅, 스토리지, 소프트웨어, 네트워킹 및 컨설팅 서비스를 제공함으로써 소요 시간과 비용을 절감해 준다. 

이러한 AI 네이티브 풀스택 솔루션은 프라이빗 데이터 기반의 파운데이셔널 모델을 제작하기 위해 필요한 속도, 규모, 관리 기능을 제공하고 하이브리드 클라우드 모델 내 생성형 AI 애플리케이션을 배포할 수 있도록 지원한다.

이 솔루션은 경량 모델 미세조정, 검색 증강 생성(RAG), 대규모 추론 등에 이상적이다. 이 솔루션을 실행하는 700억 개의 파라미터를 가진 라마 2(Llama 2) 모델의 미세 조정 작업은 16노드 시스템에서 6분만에 끝낼 수 있다. 이를 통해 고객은 버추얼 어시스턴트, 지능형 챗봇, 기업용 검색과 같은 AI 애플리케이션으로 비즈니스 생산성을 개선해 가치 실현을 더욱 빠르게 달성할 수 있다.

이 솔루션은 HPE 프로라이언트(ProLiant) DL380a Gen11 서버를 기반으로 엔비디아 GPU, 엔비디아 스펙트럼-X 이더넷 네트워킹 플랫폼, 엔비디아 블루필드-3 DPU로 사전 구성됐다. 이에 더해 HPE의 머신러닝 플랫폼과 애널리틱스 소프트웨어, 엔비디아 AI 엔터프라이즈 5.0 소프트웨어뿐만 아니라 엔비디아 네모 리트리버(NeMo Retriever) 및 기타 데이터 사이언스와 AI 라이브러리를 이용할 수 있다.

HPE와 엔비디아는 기업들이 AI 및 머신러닝의 개념검증 단계에서 실제 애플리케이션 생산으로 넘어갈 수 있는 소프트웨어 솔루션을 제공하기 위해 협업하고 있다. HPE는 HPE 머신 러닝 추론 소프트웨어(HPE Machine Learning Inference Software) 솔루션의 프리뷰 버전을 제공하고 있으며, 기업들은 이를 활용해 빠르고 안전하게 ML 모델을 대규모로 배포할 수 있다.

이와 함께, 프라이빗 데이터를 이용해 생성형 AI 애플리케이션을 빠르게 구축 및 배포해야 하는 기업들을 위해서 HPE는 엔비디아 ‘네모 리트리머’ 마이크로서비스 아키텍처에 기반한 엔터프라이즈 RAG용 레퍼런스 아키텍처를 개발했다. 이 레퍼런스 아키텍처는 HPE 에즈메랄 데이터 패브릭(Ezmeral Data Fabric) 소프트웨어와 파일스토리지용 HPE 그린레이크로부터 추출한 종합적인 데이터 파운데이션을 기반으로 한다. 

이 외에도, 데이터 준비, AI 훈련 및 추론 등을 지원하기 위해 해당 솔루션은 HPE 에즈메랄 유니파이드 애널리틱스 소프트웨어(Ezmeral Unified Analytics Software)와 HPE의 AI 소프트웨어에서 모든 오픈소스 툴과 솔루션을 병합해  사용할 수 있도록 했다. 

안토니오 네리(Antonio Neri) HPE 회장 겸 CEO는 “생성형 AI의 미래를 실현하고 AI 생명주기 전반을 다루기 위한 솔루션은 설계부터 하이브리드로 제작되어야 한다. HPE와 엔비디아는 오랫동안 혁신을 위해 협력해왔다. 양사는 공동 설계한 AI 소프트웨어 및 하드웨어 솔루션을 지속적으로 선보이며 고객들이 기획에서부터 제작까지 생성형 AI를 가속해서 개발하고 배포할 수 있도록 도울 것이다”고 말했다.

권용만 기자 yongman.kwon@chosunbiz.com