KAIST, 속도 21배 빠른 지능형 반도체 시스템 개발

한국 연구진이 기존 GPU 기반 인공지능 시스템보다 21배 빠른 속도를 자랑하는 지능형 반도체 시스템을 개발했다. 갈수록 확장하는 AI 기반 추천 알고리즘 기술 개발에 속도가 날 전망이다.

한국과학기술원(KAIST)은 기존 기술보다 획기적으로 빠른 인공지능(AI) 기반 추천 알고리즘 기술을 개발했다고 16일 밝혔다.

이날 KAIST에 따르면 전기·전자공학부 유민수 교수 연구팀은 프로세싱-인-메모리(PIM) 기술 기반의 메모리-중심 인공지능 가속기 반도체 시스템을 개발했다.

AI 기반 추천 알고리즘 기술은 방대한 양의 콘텐츠를 학습시킨 뒤 사용자에게 맞춤형 추천을 지원하는 시스템이다. 구글, 페이스북, 유튜브, 아마존 등 빅테크 기업들이 콘텐츠 추천 및 개인 맞춤형 광고를 제작하는데 기반이 된다.

하지만 대규모 웹서비스에서는 AI 추천 알고리즘 수행을 위한 메모리 용량이 크게 증가하면서 학습 과정에서 병목 현상이 일어난다.

연구팀은 임베딩 학습 과정에서 수행하는 연산을 단일 연산으로 변환할 수 있는 알고리즘을 개발해 메모리 대역폭 사용량을 크게 줄였다.

연구팀에 따르면 이 시스템은 엔비디아의 그래픽카드(GPU)를 사용하는 기존 인공지능 가속 시스템 대비 최대 21배쯤 빠르다.

유민수 교수는 "페이스북 데이터센터에서 처리되는 AI 연산의 70%가 추천 알고리즘을 처리하는 데 사용될 정도로 AI 추천 기술에 대한 수요가 급증하고 있다"며 "이번 연구를 통해 AI 반도체 기술 개발에 기여하겠다"고 말했다.