인공지능(AI)이 산업과 시장 전반에 걸쳐 변화를 가져올 혁신적인 기술이지만 반대로 인류 멸종 등 심각한 위험을 초래할 수 있다는 의견이 나왔다.
박진석 금융보안원 디지털전략본부장은 19일 IT조선 주최로 서울 여의도 한국경제인협회 FKI타워 컨퍼런스센터에서 열린 '2024 디지털금융포럼'에서 AI 기술의 양면성을 경고했다.
'AI 시대 금융보안의 역할'이라는 주제로 발표에 나선 박 본부장은 "AI가 잘못 활용되면 일종의 핵무기와 같은 대량 살상 무기로도 활용이 될 수 있다"며 "또 어떠한 제한적인 위험을 가져올 수 있고 최악의 경우 인간의 멸종까지 가져올 수 있을 정도로 큰 리스크를 가지고 있다"고 진단했다.
그는 "결국 AI 안전성, 보안성, 신뢰성을 확보하는 게 중요하다. 해당 세 가지 부분은 AI 화두로 떠오르고 있다"며 "올해 5월 'AI 서울 정상회담' 선언문에서도 '안전하고 혁신적이고 포용적인 AI'라는 내용이 담겼다"고 소개했다.
그러면서 "정상회담 선언문을 보면 안전하고 보안성과 신뢰성을 갖춘 AI 설계·개발·자치 사용이 보장돼야 한다고 말한다"며 "또 예외로부터의 혜택을 극대화하고 야기되는 폭넓은 위험을 대응하며, 위험기반 접근법과 일치하는 AI 거버넌스 체계 간 상호 의존성이 중요하다고 밝힌다"고 설명했다.
박 본부장은 "그만큼 AI를 활용함에 있어서 안전성과 보안성과 신뢰성 확보가 매우 중요하다는 것을 각국 정상이 공감하고 있었다"며 "이러한 내용이 정상 간 선언문에 담길 정도로 최근 아주 중요한 이슈 중 하나라고 생각한다"고 강조했다.
김광연 기자 fun3503@chosunbiz.com