삼성·애플·퀄컴·인텔 앞장 선 '온디바이스AI' [요즘 뜨는 AI]

인공지능(AI) 산업이 시시각각 변하고 있습니다. GPT가 나오고 생성형 AI가 무엇인지 궁금해하던 때가 불과 한 해 전입니다. 지금은 텍스트, 이미지, 영상을 한꺼번에 이해하고 생성하는 AI가 나왔고, 보다 정확한 생성을 위한 기술들이 주목받습니다. 누구나 AI 챗봇을 만들 수 있는 스토어가 생기기도 했습니다. 올해는 어떤 기술이, 또는 키워드가 주목받을지 살펴보겠습니다. [편집자주] 

삼성전자가 지난 1월 출시한 프리미엄 스마트폰 갤럭시 S24 시리즈는 한 가지 핵심 키워드를 담고 탄생했습니다 바로 ‘온디바이스AI’입니다. 이 개념은 ‘단말기 자체적으로 AI를 구동한다’는 의미입니다. AI가 자체적으로 구동된다는 것은 저 멀리에 있는 클라우드 서버(데이터센터)를 다녀오지 않고도 기기에서 AI 연산을 할 수 있고 그 결과를 사용자에게 곧바로 전달해줄 수 있다는 것인데요.

가령 스마트폰에서 통역 앱을 사용할 때 기존에는 마이크에 말을 하면 음성 데이터가 데이터센터까지 날아가 처리된 후 번역 결과물을 다시 스마트폰으로 전달해 줍니다. 반면 온디바이스AI 기반에서는 스마트폰 내부에서 이러한 프로세스가 모두 일어납니다.

온디바이스AI는 클라우드 서버 기반의 AI 대비 몇 가지 장점이 있습니다. 먼저 응답 시간입니다. 스마트폰에서 만들어진 데이터가 아무리 빨리 서버까지 다녀온다고 해도 어느정도 응답 시간이 걸립니다. 

다음은 보안입니다. 클라우드를 이용할 경우 아무리 강력한 보안 성능을 갖추고 있더라도 데이터를 전송한다는 측면에서는 ‘데이터 노출’ 위험에서 벗어날 수 없습니다. 이 외에도 서비스 공급자 관점에서는 클라우드 사용 비용의 발생 부담도 있습니다. 온디바이스AI는 이러한 단점을 장점으로 바꿉니다.

사실 온디바이스AI는 새로운 개념이 아닙니다. 스마트폰뿐만 아니라 TV, 냉장고, 자동차 등 여러 환경에서 데이터를 만들고 처리하는 ‘엣지 디바이스’가 있었습니다. 이제까지는 거대해지는 AI에 비해 이를 처리하는 프로세서 성능이 약한 측면이 있었는데 최근 기업들이 AI를 위한 애플리케이션 프로세서(AP)를 만들면서 비로소 구현되고 있는 것입니다.

그런데 왜 갑자기 온디바이스AI에 기업들이 주목할까요. 이유는 새로운 먹거리이기 때문입니다. 스마트폰 시장만 봐도 최근 몇 년간 정체돼 있습니다. IDC에 따르면 휴대폰 출하량 성장률은 1.4%에 그칠 것이라고 합니다.

삼성전자와 애플 입장에서는 스마트폰 교체 주기를 줄일 수 있는 확실하면서도 새로운 이유가 필요했는데, 그게 온디바이스AI였습니다. 삼성전자는 갤럭시 S24에 자체 개발한 생성형 AI 모델 ‘삼성 가우스’를 적용하면서 스마트폰 기업 가운데 사실상 가장 먼저 온디바이스AI라는 개념을 현실화했습니다. 자체 거대언어모델(LLM)을 보유한 애플도 올해 공개할 아이폰 iOS 16에 강력한 AI 기능을 담아낼 예정이라고 합니다.

사실 AP를 만드는 기업들이 온디바이스AI에 더 큰 기대를 걸고 있습니다. 스마트폰 AP를 대표하는 기업 퀄컴의 경우 지난 해 AI 연산 성능에 최적화 된 ‘스냅드래곤 8 3세대’를 출시했습니다. 미디어텍 또한 고성능 코어 4개를 장착한 AP ‘디멘시티 9300’을 선보였습니다.

온디바이스AI는 비단 스마트폰에서만 국한된 개념이 아닙니다. 개인용 PC에도 자체적으로 AI 기능을 갖춘 ‘AI PC’ 개념이 등장했습니다. 지난 해 12월 인텔은 AI 성능을 극대화 한 프로세서 ‘인텔 코어 울트라’를 출시했고 현재 PC 제조기업들을 통해 AI PC가 구현되고 있습니다. 

앞으로 온디바이스AI는 스마트워치, 가상현실(VR) 헤드셋, 자동차까지 사용자 데이터가 만들어지는 거의 모든 디바이스에 적용될 것입니다.

조상록 기자 jsrok@chosunbiz.com