장동인 AIBB LAB 대표
장동인 AIBB LAB 대표
인공지능(AI)에 두번의 겨울이 있었다. 1970년대와 1990년대 AI가 반짝 ‘떴다’가 사그러들었다. 이를 아는 사람들은 세번째 겨울은 언제 오느냐고 묻는다.

필자는 세번째 AI 겨울은 오지 않는다고 확신한다. AI에 사용되는 하드웨어가 충분히 빠르고 가격도 적정하기 때문이다.

아이클릭아트
아이클릭아트
갑자기 하드웨어를 왜 이야기할까? AI는 다른 일반 프로그램과는 다르게 대단히 많은 연산을 해야 한다. 이 때문에 좋은 하드웨어가 필요하다.

AI 알고리즘 알렉스넷의 등장

약간의 역사를 거슬러 올라가보자. AI 아버지라 불리는 제프리 힌튼 교수가 2012년 이미지넷 경연대회에서 1등으로 우승했다. 이때 AI 알고리즘을 제자의 이름을 따서 ‘알렉스넷(Alexnet)’이라고 불렀다.

이 알렉스넷이 최초로 GPU를 사용했다. 당시 알렉스넷을 학습시킬 때 2개의 GPU카드를 사용했다. 이것을 사용해서 학습하는데 2주가 걸렸다.

일반 CPU를 사용하는 것보다 50배나 빨랐다. GPU는 게임할 쓰는 그래픽 카드에 내장되어 있는 그래픽용 CPU라고 할 수 있다. 사람들은 알렉스넷의 엄청난 성능에도 감탄을 했지만, 그래픽카드를 사용했다는 점에도 기발하다고 생각했다.

당시에도 그래픽카드는 많은 계산을 동시에 할 수 있다는 것은 알려져 있었지만 그것을 AI 알고리즘 계산에 활용할 수 있다는 점은 생각을 못했었다.

이후에 이미지넷 경연 대회에서 서로 1등을 하기 위한 전쟁이 활발히 진행되면서 당연히 그래픽 카드 관심이 높아졌다.

그래픽 카드 뜨며 부상한 엔비디아

그래픽 카드를 만드는 회사는 엔비디아(Nvidia)가 시장을 장악하고 있었다. 사실 컴퓨터에 들어가는 그래픽 카드는 마진이 박해서 엔비디아는 그리 큰 회사는 아니었다.

그러나 이게 무슨일인가? 2012년 이후에 엔비디아는 세계 각국으로부터 AI 전용 GPU 카드를 만들어 달라는 주문이 쇄도한다. 게다가 2016년 알파고 사건 이후에 전세계는 AI 광풍이 몰아치면서 AI GPU 분야에 획기적인 성장이 있게 된다. 게다가 암호화폐 채굴같은 AI GPU로 할 수 있게 되어서 AI GPU는 어마어마한 성장을 하게 됐다. 엔비디아는 AI을 대표하는 글로벌 회사로 성장하게 되었다.

사실 엔비디아의 성장 뒤에는 이러한 뜻하지 않은 운도 따랐지만, 성장에 더욱 크게 기여하게 된 것은 소프트웨어였다. GPU를 사용하려면 텐서플로(TensorFlow)나 파이토치(PyTorch) 와 같은 AI 개발 프레임워크와 연동이 잘 돼야 한다. 이 연동 소프트웨어가 CUDA라는 엔비디아에서 만든 소프트웨어다. CUDA가 거의 업계 표준으로 되면서부터 AI에는 다른 GPU를 사용할 수 없게 되었다.

AI를 위해 GPU와 하드웨어 필요

결국 AI를 하려면 GPU라는 하드웨어 구매해야 한다. 이것을 AI를 개발하는 텐서플로나 파이토치와 연결해야 하는데, 연결이 되는 유일한 GPU가 엔비디아에서 만든 것이었다.

물론 이에 대항해서 많은 소프트웨어가 나왔으나 엔비디아의 탁월한 GPU 성능과 소프트웨어 표준으로 인해서 AI 하드웨어 시장은 엔비디아가 거의 독식을 하고 있다. 앞으로도 이 시장은 소프트웨어의 표준이 바뀌지 않는 한 계속 엔비디아가 가져갈 가능성이 높다.

그런데, 그동안 엔비디아 GPU 칩은 대만의 TSMC에서 생산을 했었다. 그런데 지난 5월달에 삼성전자의 파운드리에서 엔비디아의 7 나노 GPU 칩 생산 계약을 체결했다. 엄청난 성공이다.

물론 7나노 GPU 칩은 TSMC에서도 생산이 되긴 하지만 이번에 공급선 다변화 전략으로 삼성전자가 수주를 하게 된 것. 사실 메모리 반도체 시장보다 비메모리 반도체 시장이 2배 정도 크다.

메모리 반도체 시장을 잡고 있는 삼성전자 반도체사업부가 비메모리 반도체 시장으로 뛰어 든 것은 당연한 일이다. 비메모리 반도체 시장은 칩 설계를 하는 팹리스와 설계 대로 실제 칩을 만드는 파운드리로 나뉜다. 세계 파운드리 시장의 50%이상을 점유하고 있는 업체가 바로 TSMC이다. 2위가 삼성전자로 약 17% 정도 시장을 가져가고 있다.

가능성 잡은 삼성전자

삼성전자의 파운드리가 앞으로 성장하려면 AI 하드웨어의 핵심인 GPU 칩을 만들 수 있어야 하는데 이번에 엔비디아의 최신 GPU 칩을 만드는 계약에 성공하면서부터 기회는 열린 것이다.

AI를 하게 되면 모두 소프트웨어만 생각하고 어디에 활용할 수 있을지에 대한 검토를 많이 하고 있다. 우리나라는 전통적으로 강한 하드웨어 특히 AI 하드웨어에 관심을 두고 이를 획기적으로 발전시킬 수 있는 방안을 만들어야 한다.

정부의 AI 투자가 점점 많아지고 있는데 AI 애플리케이션 분야에 치중되고 있는 것은 부인할 수 없다. 이제는 우리나라가 전통적으로 강한 분야인 하드웨어에도 투자를 집중해야 할 때가 온 것이다.

※ 외부필자의 원고는 IT조선의 편집방향과 일치하지 않을 수 있습니다.

장동인 AIBB LAB 대표

장동인 대표는 서울대 원자핵공학과를 졸업하고 미국 서던캘리포니아 대학에서 컴퓨터 공학 석사를 마쳤다. 미국 비자카드, EDS, 아마데우스, 오라클에서 근무했다. 1996년 귀국하여 한국 오라클 컨설팅 본부이사, 시벨 코리아 지사장, SAS코리아 부사장, 언스트앤영 컨설팅 본부장, 한국테라데이타 부사장, 국방과학연구소 빅데이터 PM을 거쳐서 현재 AIBB LAB 대표를 맡고 있다. AIBB는 AI, Big Data, Blockchain의 이니셜로 이 분야에 지금까지는 없었던 신기술을 개발하는 스타트업을 운영한다.

2018년에는 경영학 박사를 받아서 기술과 경영을 접목하는 분야를 개척하고 있기도 하다. IT업계에서 오랜동안, 기고, 강의, 컨퍼런스, 컨설팅을 해오면서 IT분야의 오피니언 리더로서 역할을 해왔다. 저서로는 ‘IT전문가로 사는법, 한빛미디어, 2018’ ‘빅데이터로 일하는 기술, 한빛미디어, 2014’ ‘공피고아, 쌤앤파커스, 2010’ ‘실무자를 위한 데이터웨어하우스, 대청, 1999’가 있다.