“인공지능(AI) 인프라에서 그래픽처리장치(GPU)가 주도해 온 AI 가속기 시장은 향후 확장형 처리장치(eXtreme Processing Unit, XPU) 시대로의 진화를 앞두고 있다.”

김성태 대원씨티에스 AI 인프라사업본부 상무는 IT조선과의 인터뷰에서 앞으로의 AI 인프라 시장의 변화에 대한 전망에 대해 이와 같이 밝히며 AI 모델과 워크로드 유형이 빠르게 발전하면서 GPU 외에도 다양한 AI 가속기 프로세서의 필요성이 증가하고 있다고 말했다.

'DIA 넥서스(Nexus)' 브랜드를 발표하고 새로운 도약을 준비하고 있는 대원씨티에스는 이를 통해 AI 기술을 기반으로 컴퓨팅, 네트워킹, 데이터 플랫폼, 엣지 등 다양한 영역을 아우르는 기술 생태계를 구축하고 확장해 나가고 있다. 대원씨티에스가 2025년 주목하는 전략 시장으로 꼽는 ‘AI 기반 지능형 관제 시스템’과 ‘AI 에이전트 관련 인프라’에 대해 김성태 상무와 이야기를 나눴다. 

대원씨티에스 AI 인프라사업본부 김성태 상무 / 대원씨티에스
대원씨티에스 AI 인프라사업본부 김성태 상무 / 대원씨티에스

 

AI 시장 ‘특이점’ 가까워지고 ‘다양화, 대중화, 융합화’ 움직임 눈길

김성태 상무는 AI 기술과 시장의 움직임에 대해 “매월 혁신이 이뤄지고 있을 정도고 업계에서는 ‘특이점’이 다가오고 있다는 논의도 진행되고 있다”고 말했다. 이어 “2024년은 AI 기술이 경제적 및 사회적 가치 창출의 핵심 동력으로 자리잡은 해로 평가된다. 기술의 성숙도와 다양한 활용 사례가 급증하는 가운데 경쟁의 심화와 규제의 강화가 AI 생태계의 균형잡힌 발전을 요구하는 중요한 전환점이 되고 있다”고 말했다.

AI 시장의 주요 특징으로는 ‘다양화, 대중화, 융합화’를 꼽았다. 이 중 ‘대중화’는 생성형 AI 기술의 확산과 함께 개인과 기업의 일상적 활용도가 크게 높아진 모습이라 소개했다. 특히 챗봇이나 콘텐츠 생산 도구, 코드 생성 도구 같은 서비스들이 생산성과 효율성을 높이는 핵심 요소로 자리잡았다고 설명했다. 

다양한 산업군에서 AI 기술들이 적극적으로 융합된 부분도 중요한 특징으로 꼽았다. 특히 지능형 관제 시스템이나 비전 AI, 생성형 AI 기반 자동화가 이러한 ‘융합’의 중요한 사례로 제시됐다. 대원씨티에스는 이 중 ‘지능형 관제 시스템’에 주목하고 딥엑스(DeepX)와 파트너십을 맺었으며 솔루션 협력사와의 협업을 서두르고 있다.

이와 함께 AI 가속기와 하드웨어 생태계도 다양화되고 있다는 점을 제시했다. 김성태 상무는 “엔비디아가 여전히 시장을 주도하지만 국내에서도 딥엑스, 리벨리온 등 엔비디아를 대체할 특화 AI 칩 분야의 개발이 활발해지면서 AI 가속기 시장 경쟁이 심화되고 있다”고 말했다.

AI 시장의 또 다른 특징으로는 기술의 성숙도가 높아진 점을 꼽았다. 이제 AI 기술은 실험 단계를 지나 실질적인 ‘성과’가 요구되는 단계에 접어들고 있고 기업들은 AI를 운영 효율과 매출을 높이기 위한 전략적 자산으로 활용하는 모습이다. AI 기술 시장이 잘 알려진 글로벌 대형 기술 기업과 신생 스타트업이 동시에 경쟁하는 다원화된 환경이 된 점도 특징으로 꼽았다.

대원씨티에스가 2024년 9월 개최한 ‘DIA 넥서스 서밋 2024’에 참여한 주요 관계자들. / 대원씨티에스
대원씨티에스가 2024년 9월 개최한 ‘DIA 넥서스 서밋 2024’에 참여한 주요 관계자들. / 대원씨티에스

지능형 관제 시스템과 AI 에이전트 관련 플랫폼 구축에 전략적 집중

대원씨티에스는 AI 기술을 기반으로 데이터센터에서 엣지 컴퓨팅까지 아우르는 차세대 AI 인프라를 설계, 구축하는 역량을 제공하는 것을 목표로 AI 비즈니스의 비전이자 브랜드로 ‘DIA 넥서스(Nexus)’를 제시한 바 있다. 아리스타 네트웍스나 텐(TEN), 케이투스(KAYTUS), 슈퍼마이크로, 딥엑스, 노타AI, LG AI 연구원 등에 이르기까지 폭넓은 파트너십을 통해 AI 인프라를 구성하기 위한 폭넓은 기술 생태계를 구축하고 있다.

김성태 상무는 “대원씨티에스의 생태계 전략은 예전 방식을 버리는 것이다. 예전처럼 장치나 솔루션을 단독으로 제공하는 것은 의미가 없다”며 “고객의 요구를 이해하고 AI 모델 평가부터 인프라 성능과 용량 선정, 데이터 통합, AI 모델 훈련과 조정, 추적 및 관리를 위한 플랫폼 구축까지 전 과정에 직접 참여해 가치를 제공하고자 한다”고 말했다.

지난해 달성했던 중요한 성과 중 하나로는 자사 온라인 쇼핑몰의 경쟁력 강화를 위한 생성형 AI 기반 상품 추천 서비스의 도입을 꼽았다. 이 서비스는 오픈AI나 구글, 메타 등이 선보인 거대언어모델(LLM)과 검색증강생성(RAG) 기술을 활용해 하이브리드, 퍼블릭, 프라이빗 방식 서비스를 직접 구현한 것이 특징이다.

대원씨티에스가 2025년 전략적으로 주목하는 영역은 ‘지능형 관제 시스템’과 ‘AI 에이전트’ 관련 플랫폼 구축이다. 이 중 ‘AI 기반 지능형 관제 시스템 구축’에서는 딥엑스, 노타AI와의 협력으로 기술적 역량을 높이고 신경망처리장치(NPU)와 비디오처리장치(VPU)가 탑재된 서버 및 엣지 장비를 활용해 지능형 관제 시스템 구축을 위한 전문성을 확보한다는 전략이다. 특히, 현장에서 실시간 추론 작업을 구현하기 위해서는 모델의 경량화, 엣지 장비 및 서버의 성능 최적화 양 쪽 모두가 중요하다고 강조했다.

대원씨티에스가 전략적으로 주목하는 또 다른 영역은 ‘AI 에이전트’와 관련된 인프라 및 플랫폼 구축 사업이다. 김성태 상무는 “AI 에이전트의 등장은 엔터프라이즈 컴퓨팅의 개념을 근본적으로 바꾸고 있다”며 “AI 에이전트는 스스로 필요한 시스템과 데이터에 접근하고 적합한 연산 자원과 도구를 선택하며 다른 AI 에이전트들과 협력해 복잡한 작업을 처리하는 능력을 갖추게 될 것이다”라고 말했다. 이어 “대원씨티에스는 생성형 AI 기반 LLM 구축을 넘어 멀티 AI 에이전트가 협력하는 체계를 구현하는 데 필요한 전문성을 갖추고 있다”고 말했다.

AI 인프라, 워크로드 다양화 수용하는 구조로 다변화 중

대원씨티에스는 향후 인공지능을 활용하는 작업들이 다양화됨에 따라 인프라 또한 GPU 기반 뿐만 아니라 용도에 따라 다양한 ‘AI 가속기’를 활용하는 방식으로 다변화될 것으로 전망한다. 김성태 상무는 “GPU가 주도해온 AI 가속기 시장은 향후 XPU 시대로의 진화를 앞두고 있다. 이는 단순히 엔비디아 독주를 견제하려는 경쟁만으로는 설명할 수 없다”며 “AI 모델과 워크로드 유형이 빠르게 발전하면서 GPU 외에도 다양한 AI 가속기의 필요성이 높아지고 있다”고 말했다.

AI 인프라 구성의 ‘다변화’ 속에서 대원씨티에스가 주목하는 것은 ‘신경망처리장치(NPU)’와 ‘비디오처리장치(VPU)’다. 김성태 상무는 “스마트 시티나 스마트 팩토리 같은 비전 AI 환경에서는 저전력, 고효율이 중요한 요소다. 이 때 NPU와 VPU를 결합한 구성은 기존 인프라로는 예상하기 어려운 수준의 효율을 제공할 수 있고 비전 AI 애플리케이션에서 높은 가치를 창출할 것이다”라고 말했다.

대원씨티에스는 하드웨어 솔루션에만 국한되지 않고 AI 솔루션 공급사와의 개념검증(PoC) 및 테스트에도 많은 노력을 기울이며 고객의 요구에 부합할 수 있게 노력하고 있다고 언급했다. 이와 함께 향후 시장에 등장할 다양한 AI 가속기에 대해서도 적극적으로 활용을 고려한다는 계획이다.

AI 기술과 인프라를 도입하려는 조직들에 대한 조언으로는 ‘균형점’을 강조했다. 김성태 상무는 “인프라 투자의 원칙은 앞으로의 인공일반지능(AGI) 시대에도 변함없다. 개방형 표준과 업계 표준 기술을 바탕으로 점진적으로 확장 가능한 구조를 구축하는 것이 핵심이다” 라고 밝혔다. 이어 “대원씨티에스는 인프라 제안에서 과잉 투자와 과소 투자 사이의 균형점을 찾는 것을 차별화된 전략으로 내세우고 있다”고 말했다.

김성태 상무는 AI 인프라 구성에 대해 “AI 인프라는 모든 조직에서 지속적으로 확대될 것이다. 초기부터 과잉 투자를 할 필요는 없다. 조직의 현재 요구에 최적화된 성능, 용량으로 설계하고 유연한 확장이 가능한 구조를 마련하는 것이 효과적이다”라고 제안했다. 이어 “AI 인프라를 위한 GPU는 매년 비약적으로 발전하고 있지만 최신 GPU는 높은 비용과 전력 소비라는 문제도 있다. 워크로드 특성에 부합하는 최적의 칩을 선택하는 것이 효율적이고 경제적이다”라고 말했다.

권용만 기자

yongman.kwon@chosunbiz.com

관련기사