인권위 ‘인공지능 개발과 활용에 관한 인권 가이드라인’ 17일 발표
인권위원회가 ‘인공지능(AI) 가이드라인'을 17일 발표한다. 플랫폼 기업이 이해관계자에게 알고리즘 작동 원리를 설명하고, 완전 자동화된 알고리즘만으로 의사결정을 내리지 못하도록 권고하는 내용이다. 각종 데이터와 알고리즘을 기업 비밀이라는 이유로 수시로 바꾸고 충분히 공개하지 않는 플랫폼에 대한 견제가 필요하다는 취지로 해석된다.
인권위는 AI 알고리즘이나 데이터가 이해관계자에 충분히 공개되고 설명돼야 한다고 봤다. 이에 인권위는 공공기관이 개발·활용하는 ‘모든’ AI와 민간이 개발·활용하는 AI 중 이해관계자의 ‘안전’에 영향을 미치는 경우는 알고리즘의 주요 요소를 모두 공개하고 설명하도록 권고한다.
또 인적 개입 없이 완전히 자동화된 AI 알고리즘만을 의사결정에 활용하는 것을 제한해 개인에 중대한 영향을 미치지 못하도록 해야 한다고 봤다. 가이드라인은 "알고리즘의 판단만으로 개인에 생명, 신체, 정신 등 중대한 영향을 미칠 경우는 제한되어야 한다"며 "이 경우 당사자가 인적 개입을 요구하거나 해당 방식을 거부할 수 있어야 한다"고 했다.
이외에도 가이드라인은 ▲인간의 존엄성 ▲개인정보자기결정권 보장 ▲차별금지 등을 ‘인공지능 개발과 활용의 원칙’으로 제시했다. 정부와 공공기관, 기업이 인간의 존엄과 가치를 침해하지 않는 범위에서 인공지능을 개발·활용하고, 개인의 자율성 등을 침해해서는 안 된다는 원칙을 제시한 것이다.
인권위는 이같은 가이드라인에 기초해 범정부 정책이 수립·이행되고 관계 법령이 규정되도록 할 계획이다. 관련 부처를 유기적으로 조정하고 통할을 권고한다는 목표다. 또 과학기술정보통신부를 비롯해 개인정보보호위원회, 방송통신위원회, 공정거래위원회, 금융위원회 등 AI 관련 부처에는 가이드라인에 기초한 AI 관련 정책을 수립해 이행하고, 관련된 정책을 제·개정할 것을 권고키로 했다.
류호정 정의당 의원은 "인공지능과 알고리즘이 중심이 된 플랫폼 기업의 사회적 영향력은 확대되는 반면, 이해당사자 권리에 대한 논의는 멈춰있다"며 "이해당사자의 설명요구권 등 디지털 시대의 새로운 시민권이 보장될 수 있도록 하루빨리 국회가 논의에 나서야 한다"고 말했다.
가이드라인 법제화는 가능성 낮아
가이드라인 취지에 입각한 법제화가 실행될 경우 상당수 플랫폼 기업의 영업 방식에 제동이 걸릴 수 있다. 예컨대 알고리즘 공개를 거부해 온 배달 플랫폼 기업은 영업에 사용해 온 배차 AI 알고리즘을 라이더에 상세히 설명해야 하는 의무가 생긴다. 알고리즘이 배달 거리를 어떻게 계산해 일감을 배정하는지에 따라, 라이더의 안전과 생명에 영향을 미칠 수 있기 때문이다.
카카오모빌리티의 영업방식에도 제동이 걸릴 수 있다. 자동화된 AI 알고리즘만을 배차에 활용하는 것이 제한될 수 있다. 그간 카카오모빌리티는 인간의 개입이 없는 AI알고리즘만으로 택시의 배차를 자동화해 왔다고 설명해왔다.
다만 관계부처들이 인권위 권고를 담은 법제화를 이행할지는 미지수다. 앞서 인권위 권고안과 비슷한 내용을 담았던 방송통신위원회의 온라인플랫폼이용자보호법의 초안은 업계 반발로 무산됐다. 지난해 방통위는 플랫폼 사업자에 검색이나 추천 등 콘텐츠의 노출 방지와 순서를 결정하는 기준 공개를 의무화하는 내용을 온라인플랫폼이용자보호법 초안에 담았다. 그러나 이는 영업비밀을 공개하라는 요구와 같다는 업계의 반발로 삭제했다.
국회에서도 플랫폼 기업 규제 논의는 멈춘 상태로 전해진다. 국회 관계자는 "여당과 야당이 모두 플랫폼 규제에 큰 관심이 없는 상황이다"라며 "21대 국회 임기가 끝날 때까지 플랫폼 규제에 대한 실효성 있는 논의는 이어지지 않을 것으로 보인다"고 전했다.
앞서 대통령직인수위원회는 ‘온라인 플랫폼 중개거래의 공정화에 관한 법률'(온플법)을 공정위에 폐기하라고 주문하는 등, 새 정부도 플랫폼 규제를 백지화하는 추세다.
이은주 기자 leeeunju@chosunbiz.com