장동인 AIBB LAB 대표
장동인 AIBB LAB 대표
CES 2020이 7일(현지시각) 개막했다. 많은 행사와 발표가 있었다. 국내 기업이 가장 관심이 많은 AI에 집중한다. 첫날 AI에 대한 5개의 중요한 세션이 있었다. AI는 모든 컨퍼런스의 공통된 주제이다. 그러나, 오늘은 AI를 도입하는 입장에서 이슈들을 이야기했다.

AI는 우리나라에도, 기업에도, 개인에게도 매우 중요한 이슈다. 우리나라에서는 아직 AI에 대한 잘못된 편견들이 난무하고 있는 듯하다. 이런 상황에서, 이번 기회에 AI에 대한 이슈들을 정리하고 싶었다. AI를 어떻게 봐야 하고 어떤 분야에 어떻게 도입하는 것이 맞는지 고민하는 기업에게 도움되었으면 좋겠다. 첫날 5개의 세션은 한 사람이 사회를 보고 3명의 인사가 서로의 의견을 이야기하는 토론회 형식으로 진행이 되었다.

AI어시스턴트와 일상 세션 연사가 모니터에 소개돼 있다./사진 장동인 대표
AI어시스턴트와 일상 세션 연사가 모니터에 소개돼 있다./사진 장동인 대표
5개의 세션은 ‘AI 어시스턴트와 일상(AI Assistants and Everyday Life)’ ‘AI의 세계경제에 주는 영향(Global Economic Impact of AI)’ ‘오늘날 AI에서 신화와 실제(Myth and Reality in Today’s AI)’ ‘AI – 전체 산업 통합(Artificial Intelligence – all industry integration)’ ‘AI에 있는 편견(Bias in AI)’이다.

AI는 앞으로의 산업을 어떻게, 얼마나 바꿀 것인가

모든 세션의 토론자들은 AI가 모든 산업과 모든 기업을 뒤바꿀 것이라고 하는데 의견이 일치했다. PWC의 리포트에 의하면 2030년까지 세계 경제에 16조 달러 정도의 영향을 줄 것이라고 발표했다. IBM에 의하면 2018년에 4500여개의 회사가 AI를 도입했고 이는 전체의 4~14%이지만 2019년에는 40%의 대기업이, 30%의 중소기업이 도입했다.

향후 18~24개월 이내에 아마도 80~90%의 기업이 AI를 도입할 것이다. 전세계의 기업은 AI를 도입할 것이고 이것은 모든 산업, 기업, 직원들에게 영향을 줄 것이다. 따라서 모든 국가, 모든 기업, 모든 사람들은 AI에 대해서 준비를 해야 하고 이 흐름에 적응할 있도록 해야 한다.
AI가 기존 산업을 어떻게 바꾸었는가.

기존 산업 중에서 최종 소비자를 서비스하는 자동차, 헬스케어, 유통, 이커머스 산업에서 AI를 많이 도입했다. 이러한 산업은 AI로 인해서 산업 자체가 완전히 바뀌었다. 이러한 혁명은 현재 진행형이다.

그 중에서도 고객서비스 분야에서 AI를 많이 도입을 했다. AI는 고객 접점 채널에서 가장 활용도가 높다. 그 이유는 AI가 가장 많이 적용되고 있는 분야가 스마트폰이다. 이 스마트폰을 들고 있는 고객이 가장 AI를 활용하는 정도가 높다. 기업에서 이들을 서비스해야 하는 분야가 AI를 도입하고 있다.

어떤 분야에서 도입되고 있는가?

AI가 적용되는 분야는 매우 다양하다. 고객 컨택센터에 AI를 도입하는 경우는 매우 흔한 일이다. AI는 챗봇, 음성인식, 직접 대화를 하는 분야에 적용하고 있다. 은행 ATM에 얼굴인식 기능을 넣어서 카드없이 얼굴 인식으로 현금을 인출할 수 있도록 한다. 또한 신용카드 접수도 AI가 할 수 있다.

박일평 LG전자 사장 발표 모습./자료 LG전자
박일평 LG전자 사장 발표 모습./자료 LG전자
오히려 사람보다 생산성이 훨씬 좋다. 자동차에 얼굴인식 기능을 넣어서 운전자의 기분이나 상태를 알아서 적절하게 조언하기도 한다. 카메라 같은 디바이스에 AI를 넣어서 찍은 사진을 인식할 수 있게 한다. 변호사 사무실에서 가장 시간이 많이 드는 계약서를 만드는 일을 AI가 대체할 수 있다. 이 경우 몇일 걸리는 일을 단 몇 분만에 처리할 수 있다.

그러나, AI가 자동차를 운전하고 아이들을 돌보고 집안일을 하게 할 수는 없다. 이 정도의 일은 사람에게는 매우 간단한 일이지만 AI에게는 매우 어려운 분야이다. 이것은 여러가지 분야의 AI를 종합해야 나올 수 있다. 예를 들면 ‘이를 닦아주는 AI 칫솔’ ‘청소를 하는 AI로봇’ 등이 될 수 있다. 서로 다른 영역의 AI를 종합해서 일반적인 일을 할수록 하게 하는 AI (Connected AI)는 현재 연구 중에 있다.

AI 도입 효과는?

AI의 도입효과는 고객만족, 비용절감, 매출증대이다.
전문가를 소개해주는 헤드헌팅에 적용할 수 있는 미야(mya.com)라는 AI는 하루에 수십만 건의 통화를 자동적으로 처리할 수 있다. 이것은 79%의 인터뷰 시간을 절약할 수 있고, 리크루터의 생산성을 144% 증가시킬 수 있다. 고객서비스 분야에 도입하면 정확한 데이터를 기반으로 좀더 정확한 답변을 해주고 고객만족을 증진할 수 있다.

IBM이 조사한 바로는 NPS(Net Promoter Score·순수 추천 고객지수)가 60~90% 증가했다. 레질런스 테크놀로지는 사이버 보안 침해, 재난, 재해등을 예측하고, 피하고, 복구할 수 있는 기술을 통칭하는데 이 기술의 핵심이 AI이다.

비용절감은 주로 변호사, 의료영상 판독의사, 회계사 등 지식노동자의 시간을 절약하는데 AI가 잘 활용된다.

기업에서 AI를 도입하기 위해서 무엇을 해야 하는가?

3가지 부분에 초점을 맞추어야 한다. 기술, 데이터, 신뢰(trust) 이다.
첫번째는 기술이다. 단순히 AI 전문가, 데이터 사이언티스트를 확보하는데 그치는 것은 아니다. AI를 도입하게 되면 모든 직원이 영향을 받는다. 그렇다 ‘모든 직원’이 영향을 받는다. AI를 도입하면서 전직원이 AI중심 교육을 받아야 한다. AI가 기존의 일을 일부 대체하는 것은 맞다.

그렇다고 기존의 직원을 내보내는 것이 아니라 기존의 직원을 새로운 AI 중심의 업무에 맞추어 재교육을 시켜야 한다. 이것은 기업에서 AI 도입의 핵심이고 매우 중요한 변화이다.

두번째는 데이터이다. AI는 데이터에 의해서 학습이 되어야 하므로 정확한 데이터를 확보하는 것이 매우 중요하다. 좋은 AI는 좋은 데이터에서 나온다. 특히 금융권에서는 더욱 더 정확한 데이터가 더 중요하다. 실제로 이상치를 가진 데이터로 학습할 경우 AI의 성능은 보장할 수 없기 때문이다.

김현석 삼성전자 사장 강연 모습./자료 삼성전자
김현석 삼성전자 사장 강연 모습./자료 삼성전자
세번째는 신뢰(trust)다. AI를 도입하면서 가장 문제가 되는 것이 다음과 같은 질문이다. AI를 믿을 수 있는가? AI가 의사결정한 것을 어떻게 믿을 수 있는가? AI가 의사결정한 과정을 알 수 있는가? 여기서 설명가능한 AI (XAI)가 중요해진다.

특히 금융 산업에서는 AI가 한 의사결정에 대한 설명이 매우 중요하다. 따라서 AI가 100% 정확해야 하는 것을 기대하는 분야는 AI를 도입하지 않는 것이 좋다.

현재 XAI의 연구 중이 발전하고 있다. 따라서 현재는 모든 분야에서 AI에게 의사결정 과정에 대해서 설명하기를 기대하기는 어렵다. AI의 어느 정도 오류와 설명 불가능한 점을 이해할 수 있는 분야부터 AI를 도입해야 한다.

과거 2번 AI의 겨울이 있었다는데, 지금은 어떻게 다른가?

1970년대 초반, 1980년대 후반에 AI의 겨울이 있었다. 지금도 세번째 AI의 겨울 가능성을 이야기하는 사람들이 있다. 그러나 지금은 과거 두번의 겨울과 근본적으로 다른 점은 AI 알고리즘에 대한 연구는 계속되어 왔고, 하드웨어의 발전으로 과거와는 비교할 수 없게 AI를 실제로 값싸게 구현할 수 있게 되었다.

그리고 가장 중요한 것은 데이터의 폭발이라고 할 정도로 데이터가 어마어마하게 많아졌다. 따라서 좁게 정의된 분야에서는 AI 가 현실 세계에 좋은 성능을 낼 수 있다. 앞으로 AI는 많은 연구가 되겠지만 지금의 연구 속도는 2년마다 2배씩 빨라지는 CPU의 성능을 능가하고 있다.

AI 프로젝트 추진 방법론

일단 AI도입을 위한 작은 팀을 만들고 빠른 적용을 위해서 애자일 디자인 싱킹(agile design thinking) 방법으로 추진하는 것이 좋다. 그리고 주어진 기간내에 MVP(Most Viable Product. 컨셉을 증명하는 제품)를 만드는 것이 중요하다. 물론 실패할 수도 있다. 당연히 조직에서 이러한 실패가 인정되어야 한다.

기존 직원에 대한 교육은 어떻게 해야 하는가?

기업에서 AI를 도입한다고 하면 해당 부서에 속하는 직원들이 직장을 잃을까 봐 두려워한다.
실제로 RPA(Robotic Process Automation)을 도입하면 매일 똑 같은 업무를 반복하는 일을 자동화할 수 있다. 이때 직원들을 안심시키고, 재교육해서 AI를 통해 일하는 법을 배우게 해야 한다.

최근에는 AI를 Augmented Intelligence라고 부른다. 이것은 AI가 일정한 판단을 하게 되면 기존 직원을 AI가 내린 판단을 참고해서 최종 의사결정을 하게 하는 것이다. 이것을 리스킬(reskill)이라고 한다. 좀 더 뛰어난 직원은 AI에 대해 교육을 시켜서 AI학습을 위한 데이터를 준비하거나 AI를 활용한 서비스를 디자인에 참여시키는 것도 중요하다. 더 뛰어난 직원들은 파이썬을 직접 배우고 머신러닝, 딥러닝을 코딩한다. 이것을 업스킬(upskill)이라고 한다.

그리고 AI의 도입은 모든 직원들에게 영향을 미치므로 면밀하게 설득과 교육 준비를 해야 한다.

AI를 통한 조직의 변화는 어떠한가?

또한 AI를 도입하게 되면 AI가 업무 프로세스에 녹아 들어가야 한다. 이것은 AI도입을 위한 업무 설계를 대대적을 해야 하는 것을 의미한다. 지금까지의 팀단위로 운영되는 사일로(silo) 형태의 조직을 수평화 시켜야 한다.

조직간의 벽을 허물고 협업을 해야 한다. 또한 기업에서 정확한 데이터를 수집하고 관리하는 부서가 필요하다. 또한 AI도입의 각 분야에서 최고담당자(champion)을 지정하고 해당 업무를 관리하는 것이 중요하다.

AI가 사람의 감정을 이해하는 것이 좋은가?

AI가 소비자를 어떻게 대하게 하는 것이 좋은가에 대한 이슈이다. 구글 어시스턴트나 아마존의 알렉사 같은 대화형 AI는 소비자의 질문에 대해서 올바른 답을 하고는 끝이다.
그러나 소프트뱅크의 페퍼는 사람의 제스처, 감정 등을 이해하려고 한다.

최근에는 공감형 챗봇(chatbot)들이 나오고 있다. 어떤 것이 좋은가? 어떤 소비자는 답만 간단히 하는 것을 좋아할 수 있고, 어떤 소비자는 끊임없이 AI와 대화하는 것을 좋아할 수 있다.

이것은 개인의 성향 문제이므로 앞으로는 개인별 챗봇이 만들어질 수 있다. 개인의 성향에 따라 알맞은 대화를 하는 챗봇이다. 공감형 챗봇도 실제 인간의 이해를 대체할 수는 없다.

데이터 프라이버시 유지냐 아니면 신뢰 기반 AI 조언이 좋은가

AI가 고객의 프라이버시에 해당한 민감한 데이터를 수집하는 것이 좋은가? 사실 여기에는 많은 이슈들이 있다. AI기반의 금융에 대한 조언을 해주는 챗봇이 사람보다 훨씬 많은 소통을 하고 더 많은 정보를 이야기할 수 있다.

지금 저축해야 하는지, 집을 살수 있는지, 지금 파티에 나가서 돈을 좀 써도 되는지. 사람들은 이런 질문을 AI에게 하기 원한다. 여기에는 당연히 AI에 대한 신뢰가 전제가 되어야 한다. 신뢰라는 것은 고객이 AI가 하는 과정을 모두 알고 이해할 때 생긴다.

의료 분야에서는 의사의 처방을 받기위해서는 약속을 하고, 병원을 가야하고, 또 기다려야 하는 복잡하고 시간이 많이 드는 것을 생략하고 집에서 화상인터뷰를 하든, 챗봇이 질문을 하든 해서, 빠르게 처방을 받는 것이 더 편한 사람들이 있다.

물론, 심각한 병이 걸렸는데 짧은 화상인터뷰나 병의 심각성을 전제하지 않는 질문들에 의해서 AI가 잘못 판단할 수도 있다. 그런 경우를 제외하면 빠른 처방을 바라는 고객은 언제나 있다. 따라서 데이터 프라이버시냐 신뢰기반의 빠른 AI의 조언이 중요하냐는 산업의 형태와 사람에 따라서 다르다고 할 수 있다.

AI가 편파적일 수 있는가?

AI는 편파적이냐? 라는 질문은 매우 심각하다. 편견이 없는 사람이 없는 데, 어떻게 편견이 없는 인공지능을 만들 수 있는가? 사실 데이터 자체가 편견이 있다면 그것을 학습한 AI는 편견이 있을 수밖에 없다.

AI에 있는 편견 세션 연사가 모니터에 소개돼 있다./사진 장동인 대표
AI에 있는 편견 세션 연사가 모니터에 소개돼 있다./사진 장동인 대표
이러한 단점을 피하기 위해서는 편견을 해소할 수 있는 훨씬 많은 데이터를 가지고 학습해야 한다. 그러나 AI는 항상 정확한 것이 아니라 편견을 가질 수 있는 사고부터 해야 한다. 그리고 그러한 편견이 있는지 테스트하고 실제 업무에 활용할 때 그런 편견이 있을 수 있다는 생각을 기본적으로 가져야 한다.

AI 도입 순서 정하고 적절한 AI전문가 채용해야

우리 기업에서 AI를 도입하는 순서가 먼저 AI 전문가를 뽑는다. 그리고 AI팀을 만들고 그 팀에게 AI에 해당하는 일을 모두 맡긴다. 나머지 조직은 AI와는 상관이 없다. 이렇게 AI를 도입하는 방식은 매우 잘못된 방식이다.

올바른 순서는 자체적으로 어떤 분야에 AI를 도입할 것인가를 먼저 정리하고, 그것을 추진할 때 사내에 맞는 데이터가 있는지를 확인하고, 그에 맞는 AI전문가를 뽑고 MVP를 만들고 향후 전사확대를 할 때 계속적인 AI 적용을 위한 사내교육과 조직, 업무 프로세스를 재정비하는 것이 일의 순서라고 생각이 되었다.

또 한가지는 국내 기업에 도입된 챗봇은 활용도가 극히 미미하다. AI를 도입할 때는 고객과의 인터액션(interaction)에서 매우 정교한 부분, 특히 감성적인 부분과 AI에서 처리하고 있는 업무를 고객에게 전달해서 신뢰를 확보하는 것이 매우 중요하다.

국내에 적용된 챗봇은 도입 자체에만 신경을 썼지 고객의 신뢰를 확보하는 데는 실패한 것 같다. 신뢰를 확보해야 고객은 AI를 사용하게 되고 더 신뢰해서 더 많은 데이터를 입력하게 되고, 그 데이터를 기반으로 더 고객에 잘 맞는 서비스를 제공하는 상승작용을 일으키게 되는 것이다.


관련기사