"기업이 인공지능(AI) 서비스를 도입하는 궁극적 목적은 비지니스 연속성, 서비스를 확대를 통한 이윤 극대화에 있다. 이는 리스크 관리를 얼마나 잘했는가의 문제로 직결되기에 AI 거버넌스를 수립하지 못한 기업은 AI 흐름 탑승에 어려움을 겪을 수 밖에 없다."
AI 도입에 어려움을 겪는 기업들에 김진숙 딜로이트 안진회계법인 파트너는 IT조선과 29일 공동으로 개최한 ‘딜로이트 테크 인사이트’ 웨비나에서 이같이 말했다. 이번 웨비나는 'AI 리스크의 이해 및 관리방안'을 주제로 진행됐다.
AI 시대 흐름에 맞춰 기업 내 AI 도입도 필수로 자리 잡고 있지만 여전히 어려움을 겪는 기업도 상당수다. 딜로이트가 올해 업계 리더를 대상으로 실시한 설문조사 결과에 따르면 AI 도입을 가로막는 주요 장벽을 묻는 질문에 응답자 중 36%가 AI 규제 준수에 대한 고민이 가장 큰 장벽이라고 답했다. 30%는 리스크 관리의 어려움을, 29%는 AI 거버넌스 모델의 부재를 꼽았다. AI 거버넌스는 AI로 발생하는 리스크를 관리할 틀을 만들고 프로세스화 시키고 주기적으로 관리하는 형태를 의미한다.
많은 기업들이 핵심 전략으로 채택하는 AI 시스템은 구조화된 데이터 처리 및 정해진 절차에 따른 작업에 최적화된 기존 IT 정보 시스템과는 달리 프로그래밍 방식, 업데이트 방식, 결과 해석 가능성에 차이가 존재한다. 김진숙 파트너는 "AI 시스템의 특수성에서 기인하는 기술적, 윤리적 리스크도 점차 심화되고 있다"며 "이런 리스크를 적절히 관리하고 완화하는 것이 AI 기술의 지속가능한 발전을 위한 핵심 과제"라고 말했다.
김진숙 파트너는 에어캐나다의 AI 챗봇이 고객에게 금액을 잘못 전달한 사례와 국내 기업이 알고리즘을 조작해 과징금을 부과하게 된 사례를 언급하며 기술의 활용은 기업의 신뢰성과 연계될 수 있는 문제이기에 리스크 관리가 필수적이라고 설명했다. 국내에서도 지난 5월 임기를 시작한 제22대 국회에 9개의 관련 법안이 발의돼 AI 육성 및 통제에 대한 적극적인 논의가 다시 시작됐다. 다만 현재까지는 AI 영역은 법제화가 돼있지 않아 기업들이 자발적으로 AI 윤리성을 챙겨야 하는 어려움이 존재한다.
김진숙 파트너는 "포괄적이고 실용적인 AI 거버넌스 프레임워크를 구축하기 위해 AI 관련정책, 조직체계, 조직 운영방안 및 내재화 방안 수립이 필요하다"고 말했다. 이에 딜로이트는 파트너사에 도움을 주기 위해 AI 거버넌스 모델 '신뢰할 수 있는 AI 프레임워크(Trustworthy AI Framework)'를 자체 개발해 운영하고 있다. 해당 모델에는 7가지 핵심 특성(attribute)인 안전성 및 보안성, 강건성 및 신뢰성, 책임성, 사회적 책임, 정보보호, 투명성 및 설명가능성, 공정성 및 공평성 등이 포함된다. 딜로이트는 각각의 요소를 점검해 기업 내 AI 체계 전반의 신뢰성을 확보할 수 있도록 지원하고 있다.
딜로이트의 AI 거버넌스 수립은 환경 분석, AI 거버넌스 체계 수립, AI 거버넌스 실행 방안 수립, PoC(개념 실증) 수행, 개선과제 및 로드맵 정의 등의 과정으로 진행된다. 각 단계에서 딜로이트는 자체 개발한 자원인 딜로이트 액셀레이터를 활용해 AI 내외부 환경 분석, AI 서비스 생애주기별 표준가이드 수립, 위험 모니터링 등의 세부적인 수행 업무를 지원한다. 그 외에도 기존 프레임워크로의 내재화, AI 거버넌스 운영을 위한 교육 수행, 임직원 대상 AI 인식 제고 및 강화, AI 서비스 위험평가 및 개선과제 도출 등의 부수적인 컨설팅도 함께 제공하고 있다.
김진숙 파트너는 "AI가 지닌 잠재적 리스크는 매우 크다고 예상된다. 선재적 방어가 중요하다"며 "AI 거버넌스를 수립하지 않은 기업은 변화하는 환경에 대응하는 데 어려움이 있을수 밖에 없다"라고 말했다.
한편 IT조선과 딜로이트가 공동으로 개최하는 ‘딜로이트 테크 인사이트’ 웨비나는 급변하고 있는 기술 및 미디어 트렌드를 짚어보고, 기업과 개인이 어떤 준비를 해야 하는지를 중점적으로 다루는 실전 중심의 행사다. 지난해 10월에 시작해, 총 5회에 걸쳐 진행됐다.
홍주연 기자 jyhong@chosunbiz.com