멜라녹스에 이어 ARM까지 품에 안은 엔비디아가 데이터센터 부문 포트폴리오를 다변화한다. GPU 기반 제품 일변도에서 벗어난 비 GPU 기반 하드웨어 제품군을 선보이며 데이터센터 시장에서의 외연 확대에 속도를 낼 전망이다.

엔비디아는 5일 온라인에서 막을 올린 GTC(GPU Technology Conference) 2020에서 데이터센터 내 네트워킹, 스토리지 및 보안 성능을 샹항하는 새로운 DPU(데이터처리장치, Data Processing Unit) 제품군을 발표했다.

엔비디아 블루필드-2 DPU 제품 / 엔비디아
엔비디아 블루필드-2 DPU 제품 / 엔비디아
이번에 공개한 ‘블루필드-2’ DPU는 대량의 데이터를 다루는 데이터센터에서 기존에 CPU가 도맡아 처리하던 네트워킹, 스토리지, 보안 등의 작업을 가져와 자체 프로세서와 알고리즘으로 독자적으로 처리한다. 멜라녹스의 블루필드 DPU에 기반을 둔 차세대 블루필드-2 DPU 제품군은 엔비디아 브랜드로 나오는 첫 비 GPU 기반 데이터센터 솔루션이다.

블루필드-2 DPU 제품군을 도입하면 데이터센터의 CPU는 고급 컴퓨팅 성능이 필요한 작업에 CPU 코어를 더욱 집중적으로 사용할 수 있다. 여기에 데이터센터 인프라-온-칩 아키텍처(DOCA)와 최적화 프로그래밍을 적용한 별도의 ARM 기반 프로세서가 네트워킹과 스토리지, 보안 작업을 직접 처리함으로써 CPU와 GPU, 스토리지 간 주고받는 데이터 전송 과정을 가속하고 데이터센터의 전반적인 성능과 효율을 높인다.

블루필드-2 DPU 기본 모델은 초당 200기가비트(Gb)의 데이터 전송 속도를 제공한다. 격리(isolation), 루트 트러스트, 키 관리, RDMA/RoCE, GPU 다이렉트, 엘라스틱 블록 스토리지, 데이터 압축 등을 포함한 핵심 데이터센터 보안, 네트워킹 및 스토리지 작업을 가속할 수 있다.

엔비디아는 이러한 DPU 제품군에 GPU 기반 인공지능(AI) 기술을 통합한 기능 강화판 ‘블루필드-2X’ DPU도 함께 선보인다. 블루필드-2X는 블루필드-2의 기본 기능과 더불어, 엔비디아 암페어(Ampere) GPU의 3세대 텐서 코어(Tensor Core)를 통해 ▲기밀 데이터 도용을 의미하는 비정상 트래픽 인식 ▲라인 레이트(line rate)로 암호 트래픽 분석 ▲악성 활동을 파악하는 호스트 검사 ▲동적 보안 오케스트레이션 ▲자동 대응 등 AI 기반 실시간 보안 분석 기능을 추가로 제공한다.

엔비디아는 데이터센터 인프라에서 DPU 가속을 지원하는 서비스 및 애플리케이션 개발을 돕기 위한 DOCA 소프트웨어 개발 도구(SDK)도 함께 선보였다. 델 테크놀로지스, 레노버 등 글로벌 서버 제조사들과 VM웨어, 레드햇 등 소프트웨어 인프라 부문 협력사들이 엔비디아의 새로운 DPU를 도입 및 지원하는 제품군을 2021년부터 순차적으로 선보일 예정이다.

젠슨 황(Jensen Huang) 엔비디아 창립자 겸 CEO는 GTC 기조연설에서 "데이터센터는 컴퓨팅의 새로운 단위가 되었으며, DPU는 현대적이고 안전한 가속 데이터센터의 핵심 요소다"라며 "데이터센터에서 CPU와 GPU, DPU는 단일 컴퓨팅 단위로 서로 결합해 완벽한 프로그래밍 기능과 AI 기술을 지원하고, 이전에는 불가능했던 수준의 보안과 컴퓨팅 성능을 제공한다"고 강조했다.

최신 GPU 기반 데이터센터, HPC 솔루션 신제품도 공개

엔비디아는 이번 GTC에서 최신 GPU 기반 데이터센터 및 고성능 컴퓨팅(HPC) 솔루션 신제품도 다수 선보였다. 업계 최초 턴키형 AI 인프라 ‘엔비디아 DGX 슈퍼POD(SuperPOD)’는 최신 암페어 GPU 기반 데이터센터용 AI 시스템 ‘DGX A100’을 최소 20개에서 최대 140개까지 클러스터 단위로 제공, 고객사들이 필요한 만큼의 고성능 AI 슈퍼컴퓨터를 단시간에 구축할 수 있도록 돕는다.

엔비디아 DGX 슈퍼POD 클러스터 / 엔비디아
엔비디아 DGX 슈퍼POD 클러스터 / 엔비디아
각각의 DGX A100 시스템은 엔비디아 멜라녹스 HDR 인피니밴드(InfiniBand) 네트워킹으로 연결, 100페타플롭(PF)에서 최대 700페타플롭의 AI 성능을 제공한다.

데이터센터 및 엣지 컴퓨팅 환경에서 각종 AI 기반 서비스와 애플리케이션을 활용할 수 있도록 돕는 엔비디아 EGX 엣지(edge) AI 플랫폼의 업데이트 내용도 공개했다.

이번 업데이트로 엔비디아 EGX 플랫폼은 다양한 산업 분야 현장에서 더욱 향상된 AI 기반 서비스와 애플리케이션을 효율적으로 구현하는 것은 물론, 이번에 선보인 블루필드-2 DPU를 추가로 지원함으로써 안전하고 가속화된 엣지 시스템과 데이터센터를 구축할 수 있게 됐다.

워크스테이션 및 데이터센터 워크로드 가속용 GPU 신제품 2종도 발표

워크스테이션 및 데이터센터용 워크로드 가속용 GPU 신제품도 공개했다. 최신 암페어 아키텍처 기반 ‘엔비디아 RTX A6000’ 및 ‘엔비디아 A40’ GPU는 전문가용 데스크톱 워크스테이션에서 데이터센터에 이르는 다양한 컴퓨팅 환경에서 이전 세대보다 빠른 그래픽, 렌더링, 컴퓨팅, AI 가속 기능을 제공한다.

엔비디아 RTX A6000 GPU / 엔비디아
엔비디아 RTX A6000 GPU / 엔비디아
RTX A6000과 A40은 이전 세대보다 ▲최대 2배의 데이터 처리량과 동시 광선 추적, 음영 처리 및 컴퓨팅 성능을 제공하는 2세대 RT 코어와 ▲새로운 TF32(TensorFloat-32) 및 BF16(브레인 부동 소수점) 연산 모드를 지원, 최대 5배에서 10배의 AI 가속을 제공하는 3세대 텐서 코어를 탑재했다.

새로운 쿠다(CUDA) 코어는 이전 세대보다 최대 2배의 FP32(단 정밀도 부동소수점) 처리 성능을 제공한다. 최대 48GB의 GPU 메모리는 대용량을 요구하는 컴퓨팅 및 AI 워크로드를 감당할 수 있다. 2개의 GPU를 NV링크(NVLink)로 연결해 GPU 메모를 최대 96GB까지 확장 할 수 있다.

엔비디아 RTX A6000은 엔비디아 홈페이지 및 주요 파트너사를 통해 12월 중순부터 공급한다. RTX A6000 및 A40 GPU를 탑재한 워크스테이션 및 서버 제품군은 2021년 초부터 HP, 델, 레노버 등 주요 OEM 시스템 제조사들을 통해 선보일 예정이다.

엔비디아 RTX A40 GPU / 엔비디아
엔비디아 RTX A40 GPU / 엔비디아
최용석 기자 redpriest@chosunbiz.com