연산·저장 합친 PIM으로 AI 고도화 이끈다

이민우 기자
입력 2021.02.07 06:00
지능형 메모리 반도체로 불리는 PIM(Proccessing In Memory)은 메모리에 연산능력을 삽입한 반도체다. 많은 데이터를 처리하는 인공지능(AI)의 현재 한계를 돌파할 수 있는 열쇠로 평가받는다. 입출력(I/O)장치에 영향을 받는 기존 반도체와 달리 메모리·연산시스템을 한 장소에 배치해 데이터 이동으로 일어나는 지연성과 대역폭 문제를 최소화했기 때문이다.

PIM, 포스트 폰 노이만(Von Neumann) 시대를 향하다

폰 노이만 설계는 메모리를 명령어와 연산내용의 저장 담당, 프로세서를 I/O장치를 통해 받은 저장내용의 연산담당으로 고정한다. 구분된 역할과 안정적인 구조로 다양한 활용을 염두에 두고 설계를 변경할 수 있는 유연함과 범용성을 가졌다.

폰 노이만 설계의 고질적 문제인 병목 현상을 간략히 나타낸 인텔의 그래픽 / 인텔
문제는 메모리와 프로세서 간 처리속도 차이로 인한 지연성과 I/O장치 의존으로 인한 병목(Bottleneck)현상이다. 프로세서는 메모리의 속도에 맞춰야 하기에 최대 성능을 발휘하기 어렵고, I/O장치의 한정된 전달량 때문에 한번에 처리할 수 있는 데이터 양에 제한을 받는다.

반면 PIM은 I/O장치에서 벗어나 메모리의 셀(Cell)과 프로세서가 직접 연결된 단계다. 한 메모리 안에서 저장과 연산처리를 동시에 진행하는 만큼, 데이터 전송 과정에 구애를 받지 않는다. 자연스럽게 I/O장치 사용에 동반되는 대역폭 제한 문제에서 자유롭다.

때문에 PIM은 현재의 AI를 한 단계 더 고도화시킬 핵심 기술로 평가받고 있다. 현재 AI는 많은 양의 데이터를 통해 학습을 진행하고 있다. PIM은 기존 폰 노이만 설계 대비 전달하는 데이터 양과 속도에서 비교할 수 없이 빠르고 저지연성을 가져 AI의 학습·사고속도를 비약적으로 높일 수 있다.

포스트 폰 노이만 시대의 PIM은 현재 AI 설계에서 각광받는 고대역폭메모리(HBM)보다 10배쯤 빠른 처리속도와 7~8배이상 에너지효율성을 보유한다. HBM은 I/O장치 갯수 증가로 대역폭 부하를 낮춰 훨씬 많은 데이터를 프로세서에 전달할 수 있지만, 태생적인 지연성 문제를 벗어날 수 없는 한계가 있다.

메마른 땅에 핀 국내 PIM 기술

국내 PIM 개발은 정부보다 산업계와 학계에서 먼저 중요성을 인지했다. 삼성전자와 SK하이닉스는 세계적인 영향력을 가진 메모리 반도체 시장에서 입지를 유지하기 위해 2014년부터 PIM 연구에 뛰어들었다.

유민수 교수 연구팀에서 개발한 PIM 기반 AI 알고리즘 시스템에 대한 개요 / 카이스트
가장 주목할만한 성과는 국내 학계에서 먼저 나왔다. 유민수 한국과학기술원(KAIST) 교수(전기 및 전자공학부) 연구팀은 2020년 11월 16일 PIM 기반 AI 가속 시스템 개발에 성공했다. 해당 시스템은 ‘AI 추천시스템 학습 알고리즘 가속’에 최적화된 기술이다.

AI 추천시스템 학습 알고리즘은 구글이나 아마존 등 IT기업의 콘텐츠 추천 및 개인 타겟 광고 제안에 활용되는 기술이다. 유민수 교수 연구팀에서 제작한 PIM 기반 AI 가속 시스템은 엔비디아(NVIDIA)의 GPU 대비 최대 21배까지 빠른 연산 속도를 자랑한다.

카이스트는 이에 대해 "유민수 교수 연구팀의 성과는 국내 PIM 기술의 상용화와 성공 가능성을 충분히 보여준 사례다"라며 "PIM 반도체가 글로벌 반도체 시장에서 큰 수요를 겪을 것으로 예측되는 만큼 의미가 크다"고 말했다.

과학기술정통부도 연구성와 PIM 중요성을 뒤늦게 인지하고 2021년부터 서둘러 지원에 나섰다. PIM 개발과 이를 AI에 활용하기 위한 기술개발 사업을 장려하고 과제를 선정한다. 1월 12일 발표한 ‘인공지능 반도체 발전전략 후속조치’에서 ‘신개념 PIM 반도체 개발’을 추가했다.

PIM 관련 4개 과제를 선정해 기술력을 보유한 컨소시엄에 과제당 최대 20억원을 지원할 방침이다. 이밖에도 개발된 PIM 기술의 신속한 실증과 산업적용을 위해 산·학·연 간 활발한 인력교류 및 공동 프로젝트도 진행할 계획이다.

유민수 카이스트 교수는 IT조선과 인터뷰에서 "삼성전자와 SK하이닉스 등 국내 메모리 반도체 대기업의 PIM기술 수준도 상당히 올라온 상태다"라며 "구글·페이스북 같은 반도체 소비기업과 시장에서 요구하는 시스템을 잘 이해하고, 이에 맞춘 PIM 설계를 진행하는 것이 중요하다"고 말했다.

이민우 기자 minoo@chosunbiz.com


T조선 뉴스레터 를 받아보세요! - 구독신청하기
매일 IT조선 뉴스를 받아보세요 닫기