인공지능(AI) 활용 범위가 점점 확산 추세다. 최근 ‘설명 가능한 AI(XAI, eXplainable AI)’ 기술이 트렌드로 관심을 받는다. AI가 내놓은 판단 결과를 사람이 이해할 수 있게 제공하는 XAI를 통해 AI 기술의 투명성과 신뢰성이 더욱 높아질 전망이다.

AI 기술 도입에 뛰어든 금융·사이버 보안·모빌리티 업계는 각 분야에 특화된 XAI 기술 적용을 추진 중이다.

금융업계는 금융 상품 추천, 대출 심사, 투자 등 기존에 운용하던 여러 예측 모델에 XAI 기술을 가미한다. IBK기업은행은 카이스트(KAIST) 설명 가능 인공지능연구센터와 손잡고 기존의 기업 예측 모형에 XAI 기술을 적용한 모델을 개발했다. 4월부터 영업 현장에 직접 적용했다. 기존 AI는 알고리즘을 통해 예측한 결과만 제공했지만, 이제는 그 결과에 대한 객관적인 설명 정보를 함께 제시한다.

2015년부터 AI 연구에 착수한 이글루시큐리티 로고 이미지 / 이글루시큐리티
2015년부터 AI 연구에 착수한 이글루시큐리티 로고 이미지 / 이글루시큐리티
명확한 근거 제시가 중요한 보안 분야에서도 XAI 기술이 속속 도입된다. 2015년부터 AI 연구에 착수한 이글루코퍼레이션은 2021년 특허 등록한 XAI 기술을 자사의 AI 보안 솔루션에 적용했다. AI의 신뢰성을 높이기 위함이다. 이 기술을 활용하면, AI가 어떤 기준에 따라 특정 행위를 이상·정상으로 탐지했는지 확인할 수 있다. 해당 조직의 판단 기준에 맞지 않는 오탐(위협이 아니지만 위협이라고 판단하는 것) 발생률을 크게 낮출 수 있다.

신윤섭 이글루코퍼레이션 AI개발팀장은 "보안 이벤트 진단의 정확성을 높이는 AI 기술은 물론 AI 예측
결과에 대한 판단 근거를 보안 전문가들이 이해할 수 있도록 제시하는 AI 기술이 매우 중요하다"며 "AI
알고리즘이 의도에 맞춰 잘 학습되었는지 또 신뢰할 만한 예측 결과가 도출되었는지 확인함으로써, AI
모델의 성능을 향상시킬 수 있기 때문이다"고 말했다.

개인용 비행체 (PAV), 초고속 기차 등 미래 모빌리티 소재 개발에도 XAI 기술을 활용할 수 있다. 울산과학기술원(UNIST)는 2월 경상국립대학교, 한국재료연구원, 포스텍 등과 함께 미래 모빌리티에
쓰이는 합금의 원소 조합과 최적의 제작 공정을 찾아내는 딥러닝 AI 모델을 개발했다. AI가 특정 조합과
공정을 추천한 이유를 알 수 있는 XAI 기술도 같이 적용됐다. 그 결과 데이터의 공정성과 신뢰성을 더욱 높일 수 있었다. 근거 정보를 토대로 한 만큼 미래 모빌리티용 합금 소재 개발에 더욱 속도가 붙을 전망이다.

이진 기자 jinlee@chosunbiz.com