[인터뷰] "금융 분야 AI 활용은 전담 조직과 책임 소재 분명해야”

입력 2021.04.25 06:00

고학수 서울대 법학전문대학원 교수 인터뷰
금융분야 AI 활용 가이드라인 마련 위한 연구

"금융 분야에 인공지능(AI) 활용이 확대되기 위해서는 각 금융 기업이 내부 지침을 확립하는 것부터가 순서입니다. 이를 위해 AI 위험 평가와 관리 업무를 수행할 조직을 만들고 책임자를 임명해 책임 소재를 분명히 해야 합니다."

고학수 서울대 법학전문대학원 교수는 IT조선과 23일 만나 이처럼 강조했다. 그는 금융위원회가 제안한 금융분야 AI 활용 가이드라인 마련을 위한 연구용역의 책임연구자로 참여했다. 고 교수로부터 금융 분야에서 AI 활용을 가로막는 요소를 짚어보고, AI 활용을 확대하기 위한 조건을 들어봤다.

고학수 서울대 법학전문대학원 교수 / 김동진 기자
금융전문가와 AI 전문가 협업은 ‘선택 아닌 필수’

고학수 교수는 금융권이 AI를 원활하게 활용하기 위해선 그간의 패러다임 자체를 바꿔야 한다고 강조했다. 그는 "금융권의 AI 활용은 가보지 않은 길이기 때문에 적용 과정에서 매끄럽지 않은 부분이 생길 수밖에 없다"며 "금융 전문가와 AI 전문가의 빈번한 협업으로 시행착오를 줄여나가는 과정이 필수다"라고 말했다.

고 교수는 이어 "의료 분야를 예로 들면 대형 병원은 엔지니어를 고용해 전문의와 협업하도록 유도하고 의료 분야 AI 도입을 돕고 있다"며 "혹자는 의료분야 전문가에게 AI 교육을 해야 한다고도 하는데 한 사람이 2가지를 다 잘할 필요는 없다. 두 전문가가 협업을 할 수 있는 채널을 열어주는 것으로 충분하다"고 말했다.

전담 조직과 책임자 임명, 금융 AI 활성화를 위한 전제조건

고학수 교수는 금융분야에서 AI 활용을 막는 요소로 전문인력·양질의 데이터 부족과 책임 소재의 불명확성 등을 꼽았다. 이를 위한 해결 방안은 전담 조직과 책임자 임명, 시행착오를 줄일 테스트베드 확충, 위험 기반 접근 등을 강조했다.

그는 또 금융 분야 AI 활성화를 위해 개별 기업이 할 일과 공공이 할 일을 구분할 필요가 있다고 밝혔다. 고 교수는 "금융 분야 AI 활용을 위해서 기술력을 갖추는 일, 어떤 알고리즘을 짤 것인지는 개별 기업이 준비하는 게 맞다"며 "기술을 발전시킬 토대인 다방면의 데이터는 사회적 인프라를 확충해 국가차원에서 제공해 줄 필요가 있다"고 말했다.

그는 이어 "금융당국은 각 기업이 새로운 기술을 금융현장에 적용하기 전 혼란을 막기 위한 장치로 테스트베드를 충분하게 활용할 수 있도록 해야 한다"고 제언했다.

거버넌스 수립의 중요성도 강조했다. 그는 "AI 시스템이 어떠한 위험을 가할 수 있는지 평가하고 급변하는 기술에 따라 발생하는 새로운 위험 요인을 평가할 수 있는 거버넌스가 필요하다"며 "전담 조직과 책임자는 AI 윤리의 측면에서도 새로운 문제가 부각될 경우 유연하게 판단하고 대응하는 역할까지 수행할 수 있을 것이다. 이는 각 금융기관이 AI 활용 전에 먼저 갖춰야 할 것들이다"라고 말했다.

고학수 서울대 법학전문대학원 교수 / 김동진 기자
불확실성 줄여가는 작업에 최선을 다해야

고 교수는 AI 기술 자체가 급속도로 발전하고 새로운 기술이 금융 시장에 어떤 영향을 미칠지에 불확실성이 많다고 언급했다. 특히 금융분야에서 개인정보 보호 규제나 AI 윤리 원칙이 어떤 식으로 해석·적용될 지에 관해서도 불확실성이 존재한다고 했다.

그는 "인간의 개입 없이 AI에 의해 투자판단이 이루어지는 경우나 금융상품 판매에 AI가 활용되는 경우, 금융상품 판매규제의 적용과 그 위반에 따른 책임 문제가 대두될 수 있다"며 "AI가 명확한 설명을 제공하지 못한 채 의사결정 과정에서 광범위하게 도입될 경우 설명불가능성 또는 불투명성의 위험도 발생할 수 있다"고 우려했다.

예컨대 인공지능이 특정 금융소비자에 적합한 대출 이자율이 3.3%라고 제시했는데 그 이유를 설명할 수 없고, 설명하더라도 그것이 충분한가에 관한 문제가 생길 수 있다는 것이다.

그는 이를 해소하기 위해선 AI를 활용하는 ‘맥락’을 중요하게 고려해야 한다고 당부했다. 고 교수는 "AI를 활용하기 위한 데이터 전처리를 어떤 기준과 원칙을 가지고 얼마나 많이 할 것인지, 그 가치판단이 중요하다"며 "금융영역 안에서 예시를 들면 금융사기 탐지를 목적으로 하는 서비스를 개발한다면 엉뚱하게 경고를 하는 것을 줄이는 일, 대출 거래라면 억울하게 대출 심사에서 제외되는 사람을 줄이는 일에 해당하는 작업으로 각 금융기업이 판단해야 할 몫이다"라고 말했다.

끝으로 고 교수는 금융기관의 AI 활용을 위해 만든 가이드라인이 혁신을 막는 방식으로 활용되지 않기를 바란다고 당부했다. 그는 "AI를 활용하는 데 있어서 복잡한 절차와 승인, 과다한 문서화를 요구함으로써 금융기관의 AI 활용을 제약하는 방향으로 작동하지 않도록 가이드라인 활용에 유의할 필요가 있다"고 말했다.

김동진 기자 communication@chosunbiz.com

키워드