엔비디아가 기업들의 인공지능(AI) 기반 애플리케이션 및 서비스 개발을 가속하고 정확도를 더욱 높일 수 있는 8세대 AI 소프트웨어 ‘텐서RT 8(TensorRT 8)’을 출시했다.텐서RT 8은 언어 쿼리에 대한 추론 시간을 이전 대비 절반으로 줄여 개발자들이 고성능의 검색 엔진, 광고 추천 플랫폼, 챗봇을 개발할 수 있도록 돕고, 이를 클라우드부터 엣지 환경에 제공할 수 있도록 지원한다.특히 텐서RT 8의 최적화 기능은 트랜스포머 기반 모델 중 하나인 BERT-라지(BERT-Large) 모델의 추론을 1.2밀리초(㎳) 만에 완료한