엔비디아, 더 빠르고 자연스러운 실시간 대화형 AI 기술 발표

입력 2019.08.14 10:29 | 수정 2019.08.14 10:48

엔비디아(Nvidia)가 실시간 대화형 인공지능(AI)을 통해 기업이 소비자와 더욱 자연스럽게 소통할 수 있는 언어이해 모델을 발표했다.

엔비디아의 AI 플랫폼은 최신 AI 언어모델 중 하나인 버트(Bidirectional Encoder Representations from Transformers, 이하 BERT)를 53분 만에 훈련하고, 2밀리초(㎳) 만에 AI 인퍼런스(추론)를 완료했다. 이러한 성능을 통해 개발자는 수억 명의 소비자가 사용할 수 있는 대규모 애플리케이션용 언어이해 기능을 사용할 수 있다.

엔비디아의 새로운 실시간 대화형 AI 기술 시연 모습. / 엔비디아 제공
기존 대화형 AI 서비스는 방대한 AI 모델을 배치할 수 없어 챗봇, 지능형 개인 비서, 검색 엔진 서비스 등에서 인간 수준의 이해력을 갖추는 것이 어려웠다. 엔비디아는 AI 플랫폼에 핵심 최적화 기능을 추가해 이러한 문제를 해결했다. AI 훈련과 인퍼런스를 매우 빠른 속도로 수행하고 방대한 언어 모델을 구축했다는 설명이다.

엔비디아는 텐서RT(TensorRT)를 사용하는 엔비디아 T4 GPU를 사용해 BERT-베이스 스쿼드(BERT-Base SQuAD) 데이터세트를 2.2㎳ 만에 인퍼런스했다. 또한, 더욱 방대한 모델을 요구하는 개발자의 요청에 따라 세계 최대 규모의 언어모델을 구축하고 훈련시켰다. 이러한 엔비디아의 맞춤형 모델은 83억 개의 매개변수를 제공한다. 이는 BERT-라지 크기의 24배다.

현재 마이크로소프트와 AI 관련 스타트업들이 엔비디아 플랫폼을 활용한 직관적이고 즉각적인 반응형 언어 기반 서비스를 개발하고 있다.

브라이언 카탄자로(Bryan Catanzaro) 엔비디아 응용 딥 러닝 리서치(Applied Deep Learning Research) 부사장은 "대화형 언어 모델은 자연어용 AI를 혁신시키고 있다. 이는 우리가 예외적으로 어려운 언어 문제를 해결하도록 도와주고 있다"며 "엔비디아는 이러한 모델을 가속하는 작업을 통해 이전에는 상상도 못 했던 방식으로 고객을 돕고 이들을 기쁘게 할 수 있는 새로운 첨단 서비스를 만들고 있다"고 말했다.

자연어 이해에 기반한 AI 서비스는 향후 기하급수적으로 성장할 전망이다. 주니퍼리서치(Juniper Research)는 디지털 음성 비서 사용 건수가 향후 4년 내에 25억 회에서 80억 회로 증가할 것으로 내다봤다. 가트너(Gartner)도 2021년까지 모든 고객 응대 서비스의 15%가 AI로 완전히 처리되고, 그 비율도 2017년도 대비 400% 증가할 것으로 전망했다.





키워드