[줌인IT] AI 기술 환경 철지난 엔비디아 ‘쿠다’에 머문 한국

인공지능(AI) 기술의 폭발적인 변화 속에서 시대의 기운을 받아 스타로 떠오른 대표 기업 중 하나로 엔비디아(NVIDIA)를 빼놓을 수 없다. AI 기술을 위한 기반 환경을 제공하는 엔비디아는 이미 국내에서도 여러 가지 이유로 많은 이들이 주목하고 있다.

엔비디아가 현재 AI 인프라 시장을 실질적으로 장악한 상황을 만든 근원으로는 곧 발표 20주년을 앞둔 ‘쿠다(CUDA)’ 언어의 존재가 꼽힌다. 당시 쿠다는 GPU(그래픽처리장치)에 프로그래밍 가능한 요소들을 활용해 그래픽 이외의 연산에도 수행해 보자는 콘셉트로 출발했다. 당시와 비교해 역할은 변화했지만, GPU를 활용해 기존에 없던 것들을 가능하게 하는 데 있어 쿠다는 여전히 중요한 요소다.

하지만 현재의 AI 기술 구성에서 ‘쿠다’ 만으로 엔비디아의 장악력을 모두 설명하기는 설득력이 부족해졌다. 시대가 바뀌었기 때문이다. AI 기술과 모델들이 이제 상용화 단계에 이른 지금 시점에서 이 기술들이 ‘쿠다’를 기반으로 하지만 이를 직접 활용하는 단계는 이미 많이 지났다. 이제 거의 모든 개발자들은 쿠다를 직접 쓰는 게 아니라, 쿠다 기반으로 GPU를 쓸 수 있게 준비된 플랫폼을 사용한다. 즉, 플랫폼과 하드웨어를 연결하는 역할이 반드시 쿠다일 필요는 없는 시대가 된 것이다.

이러한 흐름은 단지 ‘반(反) 엔비디아 진영’의 주장만은 아니다. 엔비디아의 경쟁사인 AMD나 인텔뿐만 아니라, 엔비디아 자체도 이미 이 변화를 전략적으로 수용하고 있다. AMD는 최근 ‘AMD 어드밴싱 AI 2025’ 행사에서 ‘ROCm 7’을 발표하면서 변화의 핵심으로 새로운 모델과 프레임워크 지원을 강조했지만, GPU 언어 ‘HIP’에 대한 이야기는 한 마디도 꺼내지 않았다. 몇 년 전만 해도 관심을 끌었던 쿠다 기반 프로그램을 자동으로 전환해주는 프로젝트들 또한 더 이상 주목받지 않는다. 이는 이제 그런 작업 자체가 필요 없어졌다는 것을 보여준다.

엔비디아도 이제 더 이상 ‘쿠다’를 직접 언급하거나 최신 쿠다 버전에서 무엇이 바뀌었는지 거창하게 이야기하지 않는다. 대신, 쿠다 기반으로 활용 가능한 플랫폼과 프레임워크, 그리고 이를 통해 확장할 수 있는 응용 영역에 집중하고 있다. 이제 하드웨어 기술 기업은 단순히 저수준 언어나 도구만을 제공하는 것이 아니라 특정 목적에 바로 적용 가능한 ‘솔루션’ 을 구성하는 방향으로 그 역할이 바뀌고 있다. 과거에는 사용자가 직접 쿠다를 활용해 프레임워크와 GPU를 연결해야 했다면 이제는 그 역할을 엔비디아가 대신 수행하고 있는 셈이다.

이제는 소프트웨어 플랫폼과 하드웨어의 연결 자체가 하드웨어 제조사의 책임이 된 시대다. 이로 인해 특별한 목적이 아닌 이상 개발자가 직접 GPU를 다루는 저수준 언어를 사용할 필요는 없다. 이는 과거 CPU 기반 컴퓨팅 생태계에서도 이미 여러 차례 경험했던 변화다. 생태계의 중심이 프레임워크와 플랫폼으로 이동하면 전체 시장도 다양한 하드웨어와 소프트웨어로 확장되는 선순환이 본격화될 것이 분명하다.

그럼에도 지금도 여전히 ‘쿠다’를 이야기하는 것을 단지 지나간 유행에 대한 이야기를 듣는 것처럼 지나치기엔 뒷맛이 개운치 못하다. 국내에서 쿠다를 제대로 다룰 수 있는 사람이 거의 없는 상황에서 엔비디아의 GPU와 쿠다에만 의존했던 이유가 단지 기존 코드 실행의 편리함 때문이었다면 기술 경쟁력의 근원을 다시 생각해야 하지 않을까 싶다. 지금까지 한국의 IT 경쟁력은 제조보다 소비에서 창출되었다는 평이지만, 지금 우리는 기술을 정말 ‘잘 쓰고 있는지’ 되돌아볼 때가 아닌가 하다. 

권용만 기자

yongman.kwon@chosunbiz.com