바른 인공지능(AI) 기술 활용을 돕는 윤리원칙 도입 기업·기관이 증가 추세다. 윤리 원칙은 헌법과 비슷한 선언적 성격이 강하다. 정부는 보다 구체적인 방향성을 제시해줄 자율점검표를 만드는 중이다. 하지만 자율점검표의 실효성을 놓고 엇갈린 목소리가 나온다.
최근 과학기술정보통신부는 연내 ‘AI 윤리기준 실천을 위한 자율점검표’ 최종안 발표를 위해 부처 협의에 속도를 낸다.
최근 AI 윤리 원칙을 발표한 CJ올리브네트웍스를 비롯해 네이버와 카카오, SK텔레콤, 삼성전자 등 국내 주요 IT 기업은 2021년 AI 윤리 기준을 마련했다. 올해 초 AI 챗봇 ‘이루다' 논란으로 AI 윤리 문제가 불거진 탓이다.
공공도 움직인다. 다수의 AI 정책 사업을 주관하는 한국지능정보사회진흥원(NIA)은 9월 공공기관 최초로 AI 윤리 원칙을 제정하기도 했다.
하지만 AI 윤리 원칙에는 여전히 추상적인 표현이 많다. 현장에서 근무하는 개발자가 바로 적용할 수 있는 실무 지침이 필요하다는 목소리가 여전하다. 선언적 성격이 강한 ‘원칙'이 아닌 실무자가 쓰는 ‘지침'이 필요하다는 것이다.
이루다 사태를 겪은 개인정보보호위원회는 5월 산업계 의견을 토대로 'AI 개인정보보호 자율점검표'를 공개했다. AI 자율점검표는 AI 서비스 개발·운영 시 발생할 수 있는 개인 정보 침해를 예방하기 위한 안내서다.
과학기술정보통신부도 2020년 12월 발표한 일반 AI 윤리 원칙을 실제 현장에 적용할 수 있는 방법을 구체화한 ‘윤리기준 실천을 위한 자율점검표' 초안을 최근 공개했다. 12월 최종안을 발표할 예정이다.
하지만 자율점검표의 실효성을 둘러싼 업계의 반응은 나뉜다. 실무에서 활용할 수 있는 구체적인 지침이 필요하다는 의견이 있지만, 자율적 지침이 아닌 규제적 성격을 갖게 될까 우려하는 목소리도 있다. 또 자율적 지침이기에 기업들이 적극 활용하지 않을 것이란 우려도 있다.
AI 기업 한 관계자는 "현장에서는 AI 윤리 기준이 모호하다 보니 여전히 개발에 어려움을 겪는다"며 "실무에서 활용할 수 있는 기술적으로 접근할 수 있는 가이드라인이 필요하다"고 말했다.
스타트업계 한 관계자는 "자율점검표는 기존 기업들의 AI 윤리 원칙을 반영하면서, 보다 구체적인 기준들을 제시했다는 점에서 의미가 있다"며 "우수 사례라든지 다양한 사례를 모아 보완하고 실효성을 높여야 한다"고 말했다.
또 다른 AI 기업 한 관계자는 "자율 점검이라지만 강제적 성격을 지니게 될 경우 산업 활성화가 저하되는 부작용이 있을 수 있다"며 "반대로 기업의 자율에 맡기게 되면 굳이 자율점검표 항목을 지키지 않을 가능성이 높아 실효성에 대한 의문은 있다"고 말했다.
정부는 AI 윤리기준 자율점검표 점검 문항을 활용해 기업의 내부 지침 마련 과정을 지원하고, 현장 피드백을 반영해 지속적으로 보완하겠다는 계획이다.
과기정통부 관계자는 "업계의 우려를 알고 있으며, 강제적 성격이 아닌 기업의 자율을 독려하는 방향으로 갈 것이다"며 "딱딱한 규정집이 아닌 사례를 최대한 많이 확보하고, 교육을 제공하는 등 업계 의견을 최대한 반영해 실효성을 높이려 한다"고 말했다.
이어 "개인적인 욕심으로는 매년 자율점검표를 개정하고 싶다"며 "현장에서 실질적인 도움이 될 수 있도록 계속해서 수정하고 보완하겠다"고 말했다.
류은주 기자 riswell@chosunbiz.com