[누구나 개발자 #1] ④‘인텔리전트 엣지와 클라우드’의 궁극적 지향점

‘AI의 대중화’ 시대다. [누구나 개발자] 1편에서는 국내 유일의 소프트웨어전문지인 마이크로소프트웨어(이하 마소) 400호에 인공지능에 대한 이야기를 풀어낸 ‘스팟라이트’ 섹션의 기고를 소개한다. [편집자주]

① AI is everywhere
② 오픈소스 AI 개발 도구가 애저 클라우드와 만났을 때
③ 애저에서 머신러닝을 한다는 것...머신러닝이 클라우드, 오토 ML과 ML옵스를 만났을 때
④ 인텔리전트 ‘엣지와 클라우드’의 궁극적 지향점
⑤ 오피스 안으로 들어온 AI
⑥ 누구나 AI 전문가로!
⑦ 양자 컴퓨팅 활용의 지름길 ‘애저 퀀텀'
⑧ 알고리즘랩스 "인공지능 기술 보편화에 기여하겠다"

인텔리전트 ‘엣지와 클라우드’의 궁극적 지향점

필자 이건복은 마이크로소프트 IoT솔루션사업부 상무로 재직중이다. SI회사에서 호스트 프로그램 개발자로 시작해 마이크로소프트에서 VB/COM/DCOM기술엔지니어, 모바일 프로그램 매니저로 활동했다. 현재는 클라우드 아키텍트로 한국과 호주 지역 IoT 솔루션 개발을 지원하고 있다.

#IoT와 AI의 접목

IoT(Internet of Things, 사물인터넷)는 그 단어가 의미하는 바와 같이 모든 사물이 인터넷으로 연결되어 통신하는 것을 의미한다. IoT 기술은 집 안에서 사용되는 가전제품을 비롯해 다양한 산업 현장에도 적용되고 있다. 예를 들면, 공장에서는 센서 데이터를 수집해 동작하는 장치를 모니터링하고 불량률을 낮추기 위해 수집한 데이터를 분석한다. 농장에서는 가축의 건강 상태를 다양한 센서들을 이용해 모니터링하고 질병을 예방하기 위해 IoT 기술을 사용한다. 단순한 원격 모니터링뿐만 아니라 제어 기능을 추가해 원격에서도 특정 기기를 동작시키거나 상황에 맞게 장치의 기능을 조절하기도 한다. 이미 IoT는 여러 영역에 적용돼 지속적으로 발전하고 있다. 이렇게 IoT 솔루션은 연결된 장치들을 통해 모니터링하고 제어하는 기능 위주로 발전해 왔다. 그렇기 때문에 연결성에 대한 부분과 통신 프로토콜에 대한 논의가 주요 관심 사항이었다.

<그림1> 작업자의 안전을 향상시키기 위해 뉴질랜드의 회사인 불칸 스틸은 IoT와 AI 기능을 이용했다.

뉴질랜드의 불칸 스틸(Vulcan Steel)이라는 회사는 트럭에 AI 카메라를 설치했다. 철강의 하역 위치 및 작업자의 안전장치 상태를 실시간으로 감지해 더 안전하게 작업할 수 있도록 했다. 단순히 CCTV로 감독관이 모니터링하는 것이 아니라 AI(인공지능) 기반의 카메라가 안전모의 착용 상태 또는 물건의 위치를 감지한다.

최근에 AI가 광범위하게 적용되면서 IoT와 AI를 접목해 AI-IoT, 지능형 IoT라는 표현이 등장했다. 다르게 표현하면 ‘Intelligent of Things’라고 할 수 있을 것 같다. 기존 IoT의 ‘인터넷’이라는 연결성보다는 인텔리전트가 강조된 의미로 약어를 바꾸어 볼 수도 있다는 것이다.

기존에 사람의 판단에 의존했던 영역에 AI가 보조하고 예측(예지)할 수 있는 솔루션에 대한 수요가 점점 늘어나고 있다. 이것은 처음에는 에어컨이나 전등을 원격지에서 끄고 켜는 원격 운영(Remote Operation) 중심의 접근 방식이었다면, 최근의 IoT 기술은 사람이 가장 편하게 생각하는 온도로 자동 조절하고, 사람의 활동성에 따라서 자동으로 켜고 끄는 지능화한 운영(Intelligent Operation)을 더욱 중요하게 생각한다는 것이다. 물론 이를 위해서는 첫 단계에서 수집된 데이터가 충분히 확보되어야 한다. 그렇기 때문에 AI와 IoT는 아주 밀접한 관계이고 IoT를 통한 데이터 수집이라는 단계가 반드시 선행되어야 한다.

데이터의 축적이나 실시간성이 결여된 상태에서 AI를 적용하는 것은 마치 음식 재료가 하나도 없는 상태에서 전자레인지만 두고 음식이 만들어지기를 바라는 것과 같다. 현실적으로 AI는 궁극적인 지향점이 될 수 없다. 중요한 도구일 뿐 그 목적을 대체하는 존재로 인식해서는 안 된다.

국내 산업계에 AI를 과도하게 맹신하거나 형식적으로 도입하는 경우가 있는 것 같다. AI 그 자체에 대한 본질적인 의미 또는 자체적인 기술 구현에 너무 많은 시간을 소모하는 경우도 있는 것 같다. AI에 대한 지나친 기대나 잘못된 오해가 광범위하게 퍼져 있는 것이 의미 있는 결과물을 만들어 내는 것을 훼방 놓고 있는지도 모른다.

실제로 AI 솔루션을 제공하는 업체의 시연(데모)은 인간이 대체할 수 있는 기술 또는 인간보다 뛰어난 존재로서 AI를 소개한다. 하지만 인간이 가진 두려움을 어떻게라도 활용해보고자 하는 것이 목적이 아니라면 AI와 인간이 대결하는 데모는 오히려 AI에 대한 거부감만 불러일으킬 뿐이다. 일부 정해진 조건, 특정한 영역에서 인간의 능력과 비교하는 것은 달리는 말과 사람의 달리기를 비교하는 것과 같다.

과거와 달리 기술의 발전 속도가 점점 더 빨라질 뿐만 아니라 시장화 단계까지 이르는 시간도 짧아지고 있다. 혁신적인 기술일수록 어디에 어떻게 적용할 것인가가 더 중요한 시점이다. 이러한 측면에서 사람을 더 중요하게 생각하고 사람의 능력을 더 향상하는 데 초점을 두는 마이크로소프트의 AI 접근 방식은 다른 기업과 차별점이다.

#클라우드 기반의 IoT

AI와 IoT에 대한 논의에서 클라우드 이야기를 하지 않을 수 없다. 사실 오늘날 사용되는 대부분의 AI 알고리즘은 적어도 30~40년 전(혹은 100여 년 전)에 이미 발표된 기술이다. 이 오래된 알고리즘을 과거의 서랍 속에서 꺼내서 AI가 현실화되고 적용되기까지는 여러 요인이 있었겠지만, 무엇보다도 퍼블릭 클라우드 발전이 가장 큰 영향을 끼쳤다고 볼 수 있다.

앞에서도 언급했다시피 알고리즘을 검증하고 현실 세계에 적용하기 위해서는 많은 데이터가 필요하다. 알고리즘은 발생한 데이터가 많을수록 정확도가 높아지고 지속적인 학습을 통해 점점 더 발전하기 때문이다. 결국 AI의 우수성은 데이터 확보가 가장 중요한 요소라고 볼 수도 있다. 다량의 데이터를 수집하고 분석하기 위해서는 기존의 온프레미스 방식으로는 한계가 있다. IoT에서 발생하는 데이터의 예를 보더라도 불특정 기간에 발생하는 다량의 데이터를 한계가 정해진 저장 공간에서 수집·분석하는 것은 매우 어려운 일이다. 아니 어쩌면 불가능에 가까운 일인지도 모른다.

대부분의 IoT 기반의 프로젝트가 소규모에서는 성공적이지만 대규모 시스템으로 확장하면서 실패를 겪는 이유도 여기에 있다. 하지만 저렴하고 사용한 만큼 지불하는 컴퓨팅 파워와 저장 공간이 클라우드로 공급되면서 모든 이야기가 다시 써지기 시작했다. 1테라바이트(TB)의 데이터를 저장하는 데 월 비용이 3만원이 되지 않는다. 만약 클라우드가 아닌 데이터 스토리지 장치를 구매한다면 얼마의 비용을 지급해야 할까? 구매 비용은 그렇다 치더라도 구매 과정을 비롯해 설치하기까지의 시간적 비용까지 생각한다면, IoT뿐만 아니라 AI 데이터를 수집하고 분석하는 것은 감히 생각도 못 할 일이다. 아마 일부 대기업 또는 엄청난 비용을 투자한 데이터센터가 있는 기업을 제외하고는 AI나 IoT는 불가능 했을 것이다.

이러한 인프라스트럭처의 한계를 클라우드로 극복할 수 있게 되자 기업들은 자연스럽게 기계에서 발생하는 데이터를 클라우드로 수집하기 시작했다. 센서를 추가해 더 많은 정보를 수집하고 분석하며 기존에는 생각할 수 없었던 데이터와 연결하기 시작했다. 이것이 바로 IoT의 진정한 시작이다. 단순히 기기를 인터넷으로 연결하고 원격으로 조정하는 것뿐만 아니라 기기에서 발생하는 데이터를 분석함으로써 앞으로 벌어질 상황을 예측한다. 불필요하게 주기적으로 진행했던 업무가 예측 가능한 시점에서 정비하는 형태로 바뀌게 된 것이다.

AI와 IoT을 구현하는 데 있어서 클라우드의 필요성에 대해 아직도 많은 사람이 의문을 갖는 것이 사실이다. 이 배경에는 IoT 구현에서 ‘사물(Things)’에 대해서만 고려한다거나 연결성에 대한 제한적인 접근 방식이 가장 큰 문제일 수 있다. 보안이라는 이유로 데이터가 특정 공간을 벗어나는 것에 대해서 알레르기 반응을 보일 정도로 두려워하는 것 또한 사실이다. 이는 이미 많은 문서와 사례를 통해서 클라우드의 사용 여부보다는 보안에 대한 올바른 정책과 관리적 효율성의 문제로 발견되곤 한다. 클라우드가 보안에 취약하다는 잘못된 믿음을 바꾸는 것이 AI나 IoT를 적용하는 첫 번째 단계일 수도 있다.

#엣지 컴퓨팅

AI 기능이 클라우드뿐만 아니라 게이트웨이나 산업용 PC와 같이 실제 데이터가 발생하는 현장과 가까운 곳에 있는 장치에도 적용되기 시작했다. 이 배경에는 고성능의 CPU와 GPU(또는 VPU)가 확산되고 ARM 기반의 장치가 높은 수준의 컴퓨팅을 수행하게 됨으로써 그 범위가 급속도로 확장되고 있기 때문이다. 즉, 단순한 홈 카메라에 AI 기능이 들어가서 특정 상황(침입 탐지)에 알람을 줄 수도 있지만 앞서 설명한 불칸 스틸의 사례와 같이 안전모를 착용하지 않은 작업자를 찾아내 관리자에게 알람을 주는 솔루션도 개발 가능하다.

물론, 기존에도 ASIC(Application Specific Integrated Circuit) 기반으로 AI기능이 CCTV에 활용된 사례가 있다. 하지만 기존의 AI 방식은 장비를 교체하거나 펌웨어를 업그레이드하는 방식이었기 때문에 고비용을 지불했다. 기능 업그레이드 주기도 상당히 길어 현실적으로는 고정된 기능만을 수행할 수밖에 없었다. 하지만 엣지 컴퓨팅(Edge Computing)은 장치가 고정된 알고리즘만 수행을 하는 것이 아니라 지속적으로 그 알고리즘을 발전시킬 수 있고 새로운 기능을 추가할 수 있다는 장점이 있다.

엣지 컴퓨팅의 또 다른 장점은 모든 데이터를 서버로 보내지 않는다는 점이다. 엣지 장치에서 분석하고 일부 고급 분석이 필요한 데이터만 전송한다거나 외부로 나갈 수 없는 데이터는 엣지에서 처리하고 비식별화 처리된 데이터만 전송한다.

일반적인 인터넷의 네트워크 지연 현상으로 인한 문제도 해결하며 네트워크가 단절된 상태에서도 현장 업무를 지속할 수 있다. 이러한 엣지 컴퓨팅이 산업 현장에 적용되고 있다.

마이크로소프트의 IoT 기술은 클라우드와 연계된 엣지 컴퓨팅 런타임을 활용해 엣지에서도 클라우드의 일부 기능이 컨테이너 형태로 배포 및 분산 실행된다. 이를 통해 업무 부하를 분산시키고 현장에서의 작업 효율을 증가시키고 있다. 여기서 사용되는 기술 대부분은 오픈소스로 제공되어 유지 보수 측면에서도 유용하게 관리할 수 있도록 하고 있다.

로크웰 오토메이션(Rockwell Automation)의 사례를 보면, 석유 시추기 상태를 모니터링하기 위해 IoT 엣지 기술을 적용했다. 석유 시추기의 대부분이 네트워크 연결이 열악한 환경에 있기 때문에 시추기 상태를 원격으로 모니터링하기가 쉽지 않다. 또한 문제가 생겼을 때 현장에서 바로 조치해야 하는데 이 정보가 중앙 정보센터까지 갔다가 다시 현장으로 지시가 내려가기까지 많은 시간이 소요됐다. 이 때문에 시추기에서 원격 서버로 데이터를 보내지 않고 엣지 컴퓨터에 데이터를 보내고 엣지 컴퓨터에선 AI 모듈이 실행되어 문제가 발생하는 것을 사전에 감지해 이를 현장의 작업자에게 알려준다. 이렇게 네트워크 연결이 어렵거나 끊길 수 있는 상황 또는 다량의 데이터를 클라우드로 전송하기 어려운 경우에도 엣지 컴퓨팅을 활용할 수 있다.

주로 현장의 숙련된 엔지니어가 보유한 경험을 각종 센서를 이용해 디지털화하고 이렇게 디지털화한 정보를 강화 학습과 반복적인 훈련으로 알고리즘을 개선해서 기기에 적용하는 것이 패턴화하고 있다. 예를 들면, 절삭공구에서 특정 소음과 온도가 증가하면 정밀도가 떨어져서 불량품이 늘어나는데, 절삭공구에 소음을 측정하는 센서와 온도센서를 추가해 불량품이 발생하는 노이즈와 발열값을 예측해 불량률을 최소화한 사례가 있다.

광산업을 비롯해 다운스트림 공정이 있는 제조업의 경우에는 특정 상황에서 장비가 오작동하거나 고장 날 때는 프로세스 전반에 걸쳐 작업이 중단되고 생산에 차질이 생길 수밖에 없다. 지금까지는 주기적인 모니터링과 점검을 통해서만 문제를 최소화하는데 그쳤다면, 센서를 이용해 장치의 한계점 및 임계치에 해당하는 상황에 도달하기 전에 AI 모듈이 이를 모니터링하고 있다가 장치를 조작해 문제를 최소화하는 형태 역시 활용되고 있다.

<그림4> 마이크로소프트의 폼 인식기(Form Recognizer)를 이용한 글씨와 폼의 인식 사례

그 외에도 우편물 또는 소포에 쓰인 사람의 손글씨를 인식해 디지털 데이터로 변경, 작업 속도를 높이고 우편물 추적까지 가능하게 하는 방식을 적용한 솔루션도 등장하고 있다.
이렇듯 AI 기술이 다양한 IoT 기기에서 사용됨으로써 더 큰 효과를 보이고 있으며 인텔리전트 한 장치가 더더욱 시장에 많이 출시되고 있다. 과거 고가의 장치와 비교해서 성능이 부족하지 않을 뿐만 아니라 고정된 인식 기능이 아닌 지속해서 업데이트가 가능하기 때문에 그 가능성은 점점 더 커지고 있다. AI 추론 기능을 더 빨리 수행할 수 있는 CPU 또는 GPU, VPU를 탑재한 장치는 점점 더 소형화되며 적용 분야도 다양해지고 있다.

#디지털 트윈

IoT와 AI 그리고 엣지 컴퓨팅이 발전하면서 자연스럽게 등장한 개념이 바로 디지털 트윈(Digital Twin)이다. 디지털 트윈은 물리적 세계의 객체를 디지털 세계에서 동일하게 구현한 것으로 복잡하고 다양한 센서로 이뤄진 물리적 환경을 디지털로 표현하고자 할 때 유용하다.

마이크로소프트 클라우드 애저(Azure)에서도 디지털 트윈을 제공하고 있다. 이 서비스를 이용해 물리적 세계를 온톨로지(Ontology) 형태로 표현해 실제 세상에서 발생하는 자료를 수집할 뿐만 아니라 실시간으로 모니터링하고 과거의 데이터를 조회할 수 있도록 한다. 이러한 디지털 트윈을 이용해 많은 비용을 지불하지 않고도 특정 상태(상황)에 대한 시뮬레이션이 가능하다. 더 나아가서는 데이터를 기반으로 미래를 예측할 수 있고 과거를 추적할 수 있는 시스템을 완성할 수 있다. 이러한 솔루션이야말로 기업들이 궁극적으로 추구하는 IoT와 AI의 결합 모델이라고 할 수 있다.

중요한 것은 디지털 트윈을 구현하기 위해서는 단순히 디지털로 물리적 객체를 시각화하는 것에 그칠 것이 아니라 클라우드에 데이터를 저장하고 분석하며, IoT를 통해 데이터를 지속적으로 업데이트받고 이를 기반으로 AI로 예측·분석할 수 있는 시스템이 밑바탕이 되어야 한다. UI 역시 중요한 영역이지만 눈에 보이는 부분이 전부일 수는 없다.

다시 말하면, 첫 단추를 잘 꿰야 어긋나지 않듯이 디지털 트윈도 기본적으로 클라우드 기반의 확장성과 유연성이 확보되어야 가능하다. 그다음에 IoT 솔루션이 기기와 클라우드를 연결하고 AI를 통해서 통찰력을 얻을 수 있으며 디지털 트윈으로 시뮬레이션이 가능하다. 이러한 단계가 생략된 채 디지털 트윈을 도입하거나 개발하는 것은 사상누각에 불과할 수 있다.

티센크루프는 마이크로소프트 파트너와 함께 엘리베이터에 대한 시뮬레이션을 위해 디지털 트윈을 이용했다. 이를 통해 실제 건물에서 일어날 수 있는 상황을 디지털에서도 동일하게 시뮬레이션이 가능하게 됐다. 비용을 절감하고 문제가 발생했을 때 그 원인을 신속하게 파악할 수 있는 능력을 갖추게 됐다.

#혼합현실과 IoT

IoT 기술을 이용해 다양한 센서의 데이터를 수집할 수 있게 됨으로써 더 많은 데이터를 볼 수 있게 됐다. 그 데이터를 이용해 디지털 트윈과 같이 가상의 공간에서 데이터를 시각화하고 여러 가지 다양한 조건에서 시뮬레이션이 가능하게 됐다. 가상의 공간과 현실 세계를 조합해 시각화하는 혼합현실 장치인 홀로렌즈를 이용하면 더 효과적으로 IoT 데이터를 조회하고 예측할 수 있다.

이러한 시뮬레이션 사례뿐만 아니라 공장에서 실무자들이 모니터링해야 하는 수많은 장치들을 혼합현실 장치를 이용한다면 작업 효율을 개선할 수 있다. 예를 들면, 수천 개 밸브의 임계치를 모두 암기하고 현재 값을 비교해 정상인지 비정상인지를 알 수 있는 현장 작업자는 채용하기도 어렵고 직무교육만으로는 시간이 많이 소요된다. 홀로렌즈를 착용한 작업자가 밸브를 모니터링하는 장면은 그리 상상 속만의 일은 아니게 될 것이다.

지금까지 IoT와 AI 그리고 혼합현실과 같은 기술이 어떻게 적용되며 앞으로의 변화를 어떻게 이끌어 갈지에 대해 설명했다. 요약하면 장치에서 클라우드 그리고 AI까지 연결된 지속적인 순환 사이클을 구성하는 것이야말로 중요한 단계라고 볼 수 있다.

산업 영역별로 해결해야 하는 문제 유형이 모두 다르고 독특한 환경을 갖기 때문에 하나의 솔루션 특히 AI나 IoT가 모든 문제를 해결할 수는 없다. 하지만 적어도 문제 원인을 파악하고 현재의 데이터를 적절히 수집하는 방법을 강구한다면 해결하지 못할 문제도 없다고 생각한다. 문제를 해결하는 첫 번째 단계는 바로 문제를 인정(인지)하는 것이기 때문이다. 지금도 어떤 장치는 문제가 있음을 지속적으로 알리고 있지만 사람(또는 시스템)이 그 정보에 귀를 기울이지 않고 있다.

어쩌면 AI, 새로운 기기, 새로운 네트워크 장비(또는 어떠한 형태의 새로운 기술)가 필요한 것이 아니라 의사결정권자의 AI를 이용한 새로운 전략과 비전이 필요할지도 모른다. 아무리 좋은 기술(제품)도 비효율적이고 잘못된 전략을 갖고 있다면 그 비효율성만 더 키울 뿐이기 때문이다.

[마.필.톡] 400호 특집! 한국MS 이건복 필자가 쓴 글은? 영상 / 촬영 편집 노창호 PD