“엔비디아 대안 찾자”…AI 판도 흔들 새물결 시작되나

최근 인공지능(AI) 업계의 이슈는 ‘AI 반도체 산업 재편’이다. 지난 9일 월스트리트저널은 오픈AI의 CEO 샘 알트만이 AI 반도체 인프라를 구축하기 위해 7조 달러(9300조원) 규모의 자금을 조달하고 있다고 보도했다. 17일에는 소프트뱅크 손정의 회장이 AI 반도체 개발을 위해 1000억 달러(133조원) 규모의 펀드를 조성한다는 보도가 이어졌다.

이러한 ‘AI 반도체 산업 재편’이라는 거대한 움직임은 기존 AI 반도체 공급 구조의 문제를 해결하는 데 초점이 맞춰져 있다. 그리고 그 중심에는 ‘엔비디아’가 있다.

생성형 AI 모델이나 AI 기반 자율주행 모델 등을 구동하기 위해서는 연산을 처리할 수 있는 프로세서가 필요하다. 중앙처리장치(CPU)로도 충분히 가능하지만 그래픽처리장치(GPU)가 현재까지 높은 효율성을 보여주고 있다. GPU 프로세서를 대표하는 엔비디아가 AI 인프라 생태계를 독점할 수밖에 없는 이유다.

실제 오픈AI, 구글, 마이크로소프트, 메타, 테슬라 등은 엔비디아의 GPU를 활용해 AI 인프라를 구축하고 있다. 문제는 인프라 확장을 위해서는 더 많은 GPU가 필요하다는 점이다. 업계에 따르면 지난 해 엔비디아의 대표적인 GPU H100 텐서코어(AI 시스템 구축용에 주로 활용) 생산량은 50만~55만대 수준으로 전세계 수요를 해소하기에는 턱없이 부족하다.

수요와 공급의 불균형으로 품귀 현상이 발생하면서 주문 후 제품을 받기까지 수 개월이 소요되는 상황이 발생했으며 여기에 가격 상승까지 뒤따랐다. H100의 경우 개 당 6만 달러(8000만원)에 달한다. H100이 10개 들어간 DGX H100은 60만 달러 수준이 된다. 샘 알트만이 “특정 기업의 독점이 AI 발전을 저해하고 있다”며 사실상 엔비디아를 저격한 배경이다.
 

사실 컴퓨팅 시장에서 GPU를 만드는 기업은 AMD, 인텔 등이 있다. 단순히 성능 측면만 놓고 본다면 엔비디아 제품에 뒤쳐지지 않는다. 뿐만 아니라 AI만을 위한 프로세서인 신경망처리장치(NPU)도 상용화 된 상황이지만 많은 기업들은 물론 국가 차원에서도 엔비디아의 GPU를 찾는다.

이유는 소프트웨어다. 엔비디아는 GPU를 기반으로 한 소프트웨어 프로그래밍 플랫폼 ‘쿠다(CUDA)’를 2000년대 후반에 개발했다. 이 플랫폼은 범용적으로 활용할 수 있도록 돕는 역할을 하지만 특히 AI 모델 연산에서 우수한 성능을 보여준다.

AI 반도체 업계 관계자는 “AI 모델 연산을 위한 SW는 사용자의 언어를 하드웨어(GPU, NPU 등의 프로세서)에 얼마나 잘 변환시키느냐가 관건이다. 빅테크 기업들도 이러한 SW를 가지고 있지만 특정 AI 모델에서는 뛰어난 성능을 발휘하는데 반해 쿠다처럼 여러 AI 모델을 동일한 성능으로 소화해내지는 못한다”며 “AI 인프라를 구축하는 기업들 입장에서는 두루 잘 쓰일 수 있는 제품을 사용할 수밖에 없다”고 설명했다.

AI 소프트웨어 개발 기업은 “AI의 핵심 트렌드인 LLM(거대언어모델)을 개발하기 위해서는 수만 개 이상의 GPU 또는 AI 반도체가 요구되며, 이를 갖췄다고 하더라도 이를 운용할 수 있는 SW 역량이 필요한데, 이러한 SW역량을 갖추기가 매우 어렵다. 결국 SW 역량 없이는 엔비디아에 의존할 수밖에 없다”고 설명했다.
 

업계는 이번 AI 반도체 투자 이슈가 새물결을 일으킬 수 있을 것으로 기대하고 있다. 현재 인텔의 ‘가우디2’, AMD ‘인스팅트 MI300 등 AI 프로세서 기반의 SW 인프라를 구축하고 있다.

AI 스타트업들의 움직임도 활발하다. 국내의 경우 퓨리오사AI, 사피온, 리벨리온 등 AI 반도체와 이를 구동하는 SW를 개발 및 상용화 하고 있다. 스타트업들이 개발한 AI 반도체의 경우 다양한 형태의 연산을 처리하는 엔비디아의 GPU와 달리 딥러닝과 같은 AI에 특화돼 있다는 점이 특징이다.

AI 반도체 업계 관계자는 “오픈AI, 구글, 아마존 등도 AI 모델 연산을 위한 자체적인 SW를 운용하고 있는데 특정 부분에서는 엔비디아보다 우수한 결과를 보여준다. 아직까지 엔비디아의 지배력이 크긴 하지만 프로세서 및 AI 파운데이션 모델 개발 기업들을 통해 점차 균열(AI 인프라 산업의 변화)이 만들어지고 있다”고 말했다.

조상록 기자 jsrok@chosunbiz.com