인공지능(AI) 산업이 시시각각 변하고 있습니다. GPT가 나오고 생성형 AI가 무엇인지 궁금해하던 때가 불과 한 해 전인데요. 지금은 텍스트, 이미지, 영상을 한꺼번에 이해하고 생성하는 AI가 나왔고, 보다 정확한 생성을 위한 기술들이 주목받고 있습니다. 누구나 AI 챗봇을 만들 수 있는 스토어가 생기기도 했습니다. 그럼 올해는 어떤 기술이, 또는 키워드가 주목받을지 살펴보겠습니다. [편집자주]
지난 20일 삼성전자는 주주총회를 통해 AI 추론칩 ‘마하1’을 개발하고 있다고 밝혔습니다. 내년에는 사용할 수 있을 것이라고 했는데요. 아직 개발 중인 칩을 미리 발표했다는 건 “우리도 한다”는 모습을 보여주려고 한 것 같습니다.
삼성전자가 반도체 파운드리 영역에서 AI 칩 영역까지 확장하는 것을 보니 AI 반도체가 향후 반도체 시장에서의 지배력을 결정 짓는 요소임은 분명한 것 같습니다. 마하1은 메모리와 그래픽처리장치(GPU) 간 병목 현상을 해소하는 데 초점을 맞춘 설계로 기존 병목 현상의 8분의 1 수준이라고 합니다. 때문에 GPU와 메모리 간 통로가 큰 HBM(고대역폭 메모리)을 사용하지 않고 저전력 메모리를 사용해도 LLM(대규모언어모델) 추론이 가능하다고 합니다.
AI 반도체는 대규모 연산을 한꺼번에 처리할 수 있는 칩입니다. 여기서 코어와 메모리 간 데이터 이동을 얼마나 효율적으로 하느냐에 따라 전력 효율성과 수율이 달라지는데요. 이를 위해서는 하드웨어 설계뿐만 아니라 이를 효율화 할 수 있는 소프트웨어도 중요합니다.
현재 AI 반도체는 삼성전자뿐만 아니라 대부분의 빅테크 기업들이 큰 관심을 보이고 있습니다. 메타는 최근 ‘아르테미스’라는 AI 칩을 개발했고 이를 데이터센터에 적용할 계획입니다. 마이크로소프트는 ‘마이아100’, 구글은 ‘TPU v5e’를 개발했습니다.
가장 원대한 청사진을 그린 기업은 오픈AI입니다. 지난 2월 오픈AI CEO 샘 알트만은 외신 보도를 통해 AI 반도체 생산을 위해 1조 달러를 투입할 것이라며 AI 반도체에 진심을 보였습니다. 샘 알트만은 TSMC, 삼성전자, SK하이닉스 등의 기업들과 협력 방안도 모색 중입니다.
빅테크 기업들이 AI 반도체에 진심인 데는 여러 이유가 있겠지만 그 중 가장 큰 하나는 엔비디아 때문일 것입니다. AI가 급속도로 발전하면서 빅테크 기업들은 데이터센터와 같이 이를 운용하기 위한 인프라를 확장해야 합니다. 하지만 현재까지 엔비디아의 AI GPU(H100, A100 등) 외에는 마땅한 대안이 없는 상황입니다. 지난 18일 엔비디아는 연례 개발자 컨퍼런스 ‘GTC 2024’에서 더 강력한 GPU ‘B100, B200’을 발표하면서 이 시장에서 왕좌의 자리를 거듭 강조했습니다.
전문가들은 엔비디아가 하드웨어뿐만 아니라 AI 운용을 위한 소프트웨어까지 지원하기 때문에 적어도 향후 몇 년 간은 엔비디아 체제가 될 것이라고 예측하고 있습니다. 하지만 ‘이 바닥엔 영원한 승자도, 패자도 없다’는 영화의 한 대사처럼, AI 시장에서는 지금의 구조를 깨부수는 혁신이 올 것이라는 기대도 큰 것 같습니다.
국내에서도 사피온, 퓨리오사AI, 리벨리온 등 AI 반도체 기업들이 KT, 네이버, NHN 등 및 정부와 함께 AI 반도체 기반 데이터센터를 구축하고 있으니, 지금의 구조를 깨부수는 혁신에 일조할 것으로 기대해 봅니다.
조상록 기자 jsrok@chosunbiz.com