HPE는 동국시스템즈, 바이브컴퍼니와 국내 시장에 최적화된 맞춤형 온프레미스 인공지능(AI) 솔루션을 위한 한국어 대규모언어모델(LLM) 개발에 협력한다고 22일 밝혔다. 이번 3사의 협력은 한국어 LLM의 엄선된 학습, 조정 및 추론을 위한 통합된 온프레미스 솔루션을 제공하는 것을 목표로 한다.
3사의 협력을 통해 개발되는 이번 LLM 솔루션은 기업 고객이 쉽게 IT 환경과 비즈니스 목적에 맞는 프라이빗 LLM을 구축할 수 있게 돕는다. 특히, 한국어 모델을 개발함으로써 한국 기업들의 부문별 니즈에 맞게 더욱 최적화된 AI 솔루션을 구축할 수 있다.
이번 협력에서는 기업들이 LLM을 활용한 애플리케이션을 배포할 수 있도록 엔비디아 H100 텐서 코어 GPU를 탑재한 HPE 크레이 XD670(HPE Cray XD670)과 엔비디아 L40S GPU를 탑재한 HPE 프로라이언트 DL380a Gen11 서버(HPE ProLiant DL380a Gen11 server)를 기반으로 한다.
HPE 크레이 XD670은 대규모 AI 모델의 학습과 조정에 맞게 설계되고 최적화되어 있으며, HPE 프로라이언트 DL380a Gen11 서버는 고집적도 메모리와 빠른 데이터 전송 속도로 까다로운 애플리케이션 실행을 위한 AI 추론 작업을 지원할 수 있다.
바이브컴퍼니는 생성형 AI 기반 모델인 '바이브젬(VAIV GeM)', 검색증강생성(RAG) 기술을 바탕으로 한 자동 Q&A 시스템인 '바이브 서치GPT(VAIV SearchGPT)', 일상 대화 및 시나리오화된 대화가 가능한 ‘바이브 스마트챗(VAIV SmartChat)’ 등을 이용해 각 기업들의 필요에 따라 설계할 수 있는 LLM 솔루션을 개발한다. 동국시스템즈는 고객사 장비 설치와 서비스 및 지원을 제공할 예정이다.
김영채 한국 HPE 대표이사는 "HPE는 다양한 IT 환경에서의 모델 학습부터 엣지에서의 추론까지 엔터프라이즈 AI 워크로드를 위한 포괄적인 포트폴리오를 보유하고 있다. 뛰어난 LLM 개발 기술을 갖고 있는 바이브컴퍼니와 폭넓은 네트워크를 보유한 동국시스템즈와 협업해 AI 기술을 활용한 국내 기업들의 경쟁력 강화에 기여할 수 있기를 기대한다”고 말했다.
권용만 기자 yongman.kwon@chosunbiz.com