SK텔레콤이 구글에 이어 두번째로 인공지능(AI) 서비스 처리 속도를 높이는 ‘AI 가속 솔루션(AIX)’을 최근 개발해 상용화했다고 21일 밝혔다. SK텔레콤은 자사 AI 가속 솔루션이 현재 개발에 나선 엔비디아, 인텔 대비 연구개발(R&D) 인프라는 떨어지지만 더 나은 부분도 있다며 자신감을 드러냈다.
손바닥 크기 만한 AIX는 소형 카드 형태다. 데이터센터 내 기존 AI 서버에 장착해 딥러닝 연산 속도를 20배 높여준다. AIX를 활용하면 별도 서버 증설 없이 AI 전체 서비스 용량을 기존 대비 5배 늘릴 수 있다. GPU 방식 가속 솔루션 대비 전력 효율성이 16배 뛰어나 데이터센터 운용 비용도 절감된다.
엔비디아, 구글, 마이크로소프트, 인텔 등 글로벌 기업은 대규모 R&D 인력을 투입해
AI 가속 솔루션 개발 중이다. 정 팀장에 따르면, AI 전문 칩인 TPU를 자체 개발하는 구글과 딥러닝 전용 하드웨어 NPU를 개발하는 인텔은 각각 수백명의 인력을 투입했다. 반면 2년 전 SK텔레콤이 신설한 ML인프라랩에서 AI 가속 솔루션 개발에 투입된 인원이 수십명에 불과하다.
그는 “하이 퍼포먼스 컴퓨팅(HPC) 분야 등 최적화 기술 개발을 위한 R&D 인력을 2년 간 많이 영입했고, 현재는 충분한 인프라를 가지고 있다”며 “엔비디아나 인텔은 AI 가속기 솔루션의 외부 상용화를 위해 일반적으로 통용되는 기술을 써야 한다는 한계가 있지만, SK텔레콤은 현재 보유한 인프라에 최적화된 기술을 개발한 후 상용화하는 것이 가능하다”고 말했다.
SK텔레콤은 자사 AI서비스 ‘누구’의 월간 실 사용자 수가 2017년 8월 11만명에서 2018년 1분기 300만명으로 급증해 AI 가속 솔루션을 개발했다고 설명했다. 엔비디아나 인텔처럼 외부 상용화는 아직 계획이 없다.
정무경 팀장은 “솔루션 개발은 자사 AI 인프라 효율성을 극대화하기 위해 진행했다”며 “외부 상용화는 아직 검토 단계며, 현재 내부 상용화에만 집중하고 있다”고 말했다.
SK텔레콤은 AI 연산 속도와 전력 효율성을 더 향상할 수 있는 차세대 'AI 가속 솔루션'도 개발할 예정이다. 2018년 1.0, 2019년 2.0 버전을 거쳐 2020년에는 지식기반 대화형 서비스에 적용할 수 있는 3.0 버전을 내놓는다.
하지만 이번 솔루션 적용으로 누구 사용 고객이 당장 개선된 사항을 체감하기는 어렵다. 5G 상용화 이후 더 많은 고객이 동시에 AI서비스를 요청할 경우 이를 감당할 수 있는 인프라를 구축한 것이 핵심이라는 SK텔레콤의 주장이다.
정 팀장은 “고객이 AI 가속 솔루션의 효용을 실제 체감하는 시기는 데이터센터 기반 AI 서비스 지연 문제를 AI 가속기로 해결해 주는 5G 상용화 이후가 될 것이다”고 말했다.