상용 AI칩보다 최대 2.8배 빨라

구글이 인공지능(AI) 기계학습의 신기원을 열었다. 자체 칩을 활용 시 이미지 인식과 같은 AI 학습에 고작 30초가 걸리지 않았다. 기존 AI칩과 비교해 3배가량 속도를 줄인 것으로 사람이 채 1분도 안 되는 시간에 한 분야의 숙련자가 된다는 의미다.

5일 업계 및 외신에 따르면 MLperf AI칩 벤치마크 테스트 결과, 구글이 자체 개발한 데이터 분석 및 딥러닝용 AI칩 TPU(Tensor Processing Unit)가 압도적인 속도의 AI학습 환경을 제공한다.

구글이 2016년부터 자체 개발한 AI칩 ‘TPU’ /구글
구글이 2016년부터 자체 개발한 AI칩 ‘TPU’ /구글
TPU는 이미지 인식, 자연어 처리, 객체 탐지, 언어 해석 등 8가지 분야 가운데 6가지에서 1위를 차지했다. 4가지 분야에서는 AI가 학습하는 데 채 30초도 필요하지 않았다. 사람이 숙련된 기술자가 되는 시간이 1분도 안 걸린 셈이다. TPU는 상용 AI칩보다 최대 2.8배 빠르며, 학습 조건에 따라 속도 격차는 더 커진다.

가장 최근 버전인 TPU V4는 강화학습에서도 좋은 성능을 기록했다. 강화학습은 AI가 현재 상태에서 어떤 행동이 최적인지 학습하는 것이다. AI 학습 시간에 평균 6시간 정도 소요된다. TPU V4를 사용한 AI는 약 2시간 30분이면 학습을 완료했다.

상용 AI칩 가운데는 그래픽칩 최고 기업 엔비디아가 정상을 차지했다. 엔비디아의 A100 텐서 코어는 이전 버전인 V100보다 AI 학습 종류에 따라 1.5~2배 정도 발전한 성능을 보였다.

구글 TPU는 전체 8개 중 6개 부문에서 압도적인 성능을 보였다. /구글
구글 TPU는 전체 8개 중 6개 부문에서 압도적인 성능을 보였다. /구글
이번 MLperf에는 텐센트와 알리바바 등 중국 IT기업이 AI시스템 테스트를 위해 참여한 가운데, 중국의 혁신 기술 연구기관 ‘선진첨단기술연구원’은 화웨이의 AI칩 ‘어센드910’을 이용하여 이미지 인식 학습 테스트에 참여했다. AI가 학습 완료까지 걸린 시간은 약 1분 40초로 세계 최고 수준이다.

구글 TPU가 선도하고 있는 AI칩은 많은 전문가가 AI발전과 함께 크게 성장할 차세대 반도체로 꼽는다. 수백만번의 연산이 필요한 AI를 돕기 위한 반도체로 빠른 속도 처리가 중요해 ‘액셀러레이터(accelerator, 가속기)’라고도 불린다.

MLperf는 구글, 하버드대학교, UC 버클리 등이 공동으로 설립한 조직이다. 머신러닝(기계학습) 관련 성능을 측정해 비정기적으로 발표한다. 이번 AI칩 벤치마크 테스트는 ▲클라우드 ▲상용 ▲프리뷰(상용화 직전 단계) ▲연구(2~3년 내 상용화하지 않음) 등 부문으로 나눠 AI 학습 완료 시간을 측정했다.

송주상 기자 sjs@chosunbiz.com