인공지능(AI) 윤리가 새로운 ESG 경영의 한 축으로 떠올랐다. 환경(Environment)·사회(Social)·지배구조(Governance) 단어의 앞글자를 딴 ESG는 기업의 비(非)재무적 성과를 말한다. IT 기업의 서비스와 개발 중심에 AI가 자리 잡았는데, AI 윤리가 기업의 사회적 책임 중 하나라는 평가까지 나온다.
18일 IT 업계에 따르면, 네이버와 카카오는 AI 윤리를 기업 문화에 녹이기 위해 전 사원을 대상으로 교육을 시작하거나 실시간 소통을 이어간다. 17일 네이버는 서울대학교 연구진과 함께 새로 제정한 AI윤리를 발표했고, 같은 날 카카오는 사원 대상 AI윤리 교육을 시작한다고 알렸다.
송대섭 네이버 정책연구실장은 "네이버는 서울대학교 연구진과 함께 기업철학을 반영한 네이버 AI 윤리 준칙의 초안을 작성했고, 내부 검토 후 완성하게 됐다"며 "AI 윤리가 단순히 구호가 아닌 조직 문화로 정착하기 위해 노력할 것이다"고 말했다.
네이버는 기업철학을 반영한 AI에 관한 명확한 정의를 내려 눈길을 끈다. 네이버는 AI 윤리 준칙을 통해 AI를 ‘사람을 위한 일상의 도구’라고 정의했다.
송 실장은 "어려운 기술을 일상에 녹여 서비스로 제시하는 것이 네이버가 지향하는 바다"고 말했다.
카카오도 AI 알고리즘 윤리 교육 과정을 통해 ESG 경영 실천에 나섰다. 교육 내용은 카카오의 디지털 책임 구현 사례와 카카오 인권경영선언문, 알고리즘 윤리 헌장 등으로 구성됐다. 이소라 카카오 성장문화팀 매니저는 "ESG 경영 실천의 일환이다"며 "AI 윤리를 비롯해 카카오의 윤리경영 원칙을 공유할 계획이다"고 말했다.
자체 AI 윤리를 준비하기 힘든 스타트업들 사이에서도 AI 기술 오남용을 막기 위한 노력이 이어진다. AI 기반 영상합성 솔루션을 개발하는 머니브레인은 올해 초 영상합성 기술을 악용한 딥페이크를 막기 위한 AI를 공개했다.
장세영 딥페이크 대표는 "AI로 영상합성을 하는 기업으로서 ‘사회 혼란 방지’는 의무다"며 "영상 합성 기술 발전이 모든 사람에게 이롭게 활용되길 바란다"고 밝혔다.
네이버는 자신들의 AI 윤리 준칙을 스타트업에 공개한 후 공유할 예정이다. 송대섭 실장은 지원 배경을 묻는 질문에 "이루다 논란은 개별 스타트업의 문제지만, AI 산업 전반에 큰 영향을 미쳤다"며 "AI 개발과 서비스를 준비하는 입장에서 네이버와 스타트업은 일종의 운명공동체다"라고 밝혔다.
학계에서는 이루다 논란을 계기로 AI 윤리가 하나의 과정으로 자리잡아야 한다고 조언한다.
임용 서울대학교 교수(법학전문대학원)는 "AI 윤리 등 AI 거버넌스 목표는 지속적인 견제를 통한 검증된 신뢰 확보에 있다"며 "신뢰 가능한 AI기반 사회 시스템 조성을 위해 노력해야 한다"고 말했다.
이어 "기술 특성상 AI와 관련된 오류는 필연이다"며 "AI의 오류를 어디까지 허용할지를 계속해서 고민할 시점이다"고 덧붙였다.
IT 기업의 사회적 책임이 커졌다는 평가도 나온다. 이용자에게 윤리를 강제할 수 없는 상황에서 기업이 AI 윤리 책임 실현을 위해 노력해야 한다는 것이다.
한애라 성균관대학교 교수(법학전문대학원)는 "이루다 이용자가 AI 특성을 악용해 AI를 망쳤다는 인과관계는 증명하기 쉽지 않을 것이다"며 "이용자에게 법적 책임을 묻는다는 관점보다는 기업이 사회적 책임을 갖고 적극적으로 AI 악용 방지를 위해 노력해야 한다"고 말했다.
송주상 기자 sjs@chosunbiz.com