무책임한 알고리즘이 우리를 지배한다

송주상 기자
입력 2021.03.02 06:00
‘주객전도’ ... 편의를 위한 AI 알고리즘이 오히려 ‘또 하나의 틀’
불투명한 AI 알고리즘으로 스트레스 ↑
EU "알고리즘에 관한 충분한 설명 있어야"

# 택시기사 김 씨(62)는 목적지에 도착한 손님에게 부탁하는 일이 늘었다. 바로 별점이다. 김 씨는 카카오T를 이용한 손님에게 "별점을 부탁한다"며 고개 숙인다. 별점을 부탁하는 까닭은 훨씬 큰 수익을 기대할 수 있는 카카오T 드라이버가 되기 위함이다.

# 서울 동작구의 치킨집 사장 송 씨(가명)는 이용자가 배달의민족에 남긴 별점 하나하나에 스트레스를 받는다. 별점을 위해 무리한 이벤트와 서비스로 육체적인 피로도 쌓였다. 송 씨는 "별점이 떨어지는 날은 앱에서 노출이 잘 안 되는지 체감상 매출도 떨어진다"고 토로했다.

인공지능(AI)이 비대면 문화 확산 속에 우리 삶 곳곳에 자리 잡았다. 앞선 두 사례는 일각에 불과하다. AI는 채용 과정이나 인사 평가에도 도입됐고, 보험심사도 자동으로 처리하는 등 사회 전 분야에서 필수 기술로 떠올랐다.

하지만 AI의 판단 근거는 여전히 안갯속이다. 택시기사 김 씨와 치킨집 사장 송 씨는 입을 모아 AI 자동 배차 또는 노출 근거를 알지 못해 애꿎은 별점에만 매달린다고 말했다.

1일 업계에 따르면 AI가 목적과 다르게 작용하는 사례가 늘고 있다. 우리의 생활을 돕기 위해 개발된 AI 알고리즘이 오히려 이용자의 삶을 정하는 또 하나의 ‘틀’로써 작동하기 때문이다. 하지만 AI 알고리즘에 관한 설명은 전무해 이용자 불만은 점차 커진다.

불만은 AI 알고리즘의 기술적 특징에서 시작한다. 기존 컴퓨터 알고리즘은 규칙이 정해져 있다. 문제가 생기면 규칙을 다시 검토해 문제점을 해결할 수 있다. 문제와 논리가 투명한 것이다. 반면, 머신러닝(기계학습) 기반 AI 알고리즘은 그 자체가 규칙의 일부고, 대다수가 사람이 해석할 수 있는 데이터를 내놓지 않는다.

차량을 운전하는 모습(본 기사 내용과는 관련이 없음) /아이클릭아트
여기에 AI 개발사는 이용자에게 AI 알고리즘을 설명하기 위해 큰 노력을 쏟지 않는다. 오히려 대다수 기업은 "AI 알고리즘이 내놓는 결과다"며 인위적인 결과가 아니기에 객관적이라는 주장 강조에만 혈안이 된다.

이런 이유로 대다수 이용자는 결과로 AI의 판단 근거를 추론하는 것에 그친다. 별점으로 인한 스트레스도 마찬가지다. AI의 근거와 논리를 알 수 없으니, 이용자는 별점과 같은 수치에만 매달린다.

택시기사 김 씨도 마찬가지다. 그는 "기사들 사이에서는 카카오T 드라이버가 일반 기사보다 배차에 유리해, 하루 수입이 많으면 10배 이상 차이 난다고 한다"며 "먹고살기 위해서는 별점이 유일한 선택지다"라고 말했다.

배달 음식점도 비슷하다. 치킨집 사장 송 씨는 "앱에는 수많은 음식점이 있어, 노출 순서가 가장 중요하다"며 "별점이 노출과 얼마나 관계있는지 모르지만, 신경 쓸 수 있는 것은 별점이 전부인 상황이다"고 밝혔다.

별점으로 인한 스트레스도 크다. 김 씨는 "매일 매일 수능시험을 치르는 기분이다"고 말했고, 송 씨는 "음식을 만드는 일보다 점수로 인한 정신적 피로도가 훨씬 크다"고 전했다. 매출과 직접적으로 연결됐음에도 알 수 있는 것은 ‘별점’이라는 숫자 하나이기 때문이다.

AI 알고리즘의 불투명성으로 인한 불멘소리는 취업준비생 사이에서도 나온다. 취업 준비 2년 차 고 씨(28)는 AI 면접에서 불합격했다. 그는 "AI 면접의 결과는 불합격 아니면 합격이다"며 "AI가 객관적인지 체감도 되지 않고, 왜 탈락했는지 감도 잡히지 않아 준비가 막막하다"고 밝혔다.

일부 국가는 이미 AI 알고리즘에 관한 제동장치를 도입했다. 유럽연합(EU)이 2016년 제정한 개인정보보호규정(GDPR)이 대표적이다. GDPR은 알고리즘 투명성 관련 조항에 자동화된 의사결정 과정에 관해 '설명을 요구할 권리'를 명시했다. 정보통신정책연구원은 "알고리즘이 단순 자동화해 작동하는 ‘기계의 영역’이 아닌 ‘공공의 영역’에서 사회적 감시와 규제를 받아야 하는 존재로 부각된 것"라고 평가했다.

이 GDPR은 AI 윤리 등과 달리 실제 법적 구속력이 있는 조항이다. 지난해 7월에는 승차 공유 서비스 ‘우버’의 EU지역 노동조합이 노동자(우버 기사)에게 배차 AI 알고리즘에 관한 설명 부족했다고 소송하기도 했다.

국내는 이제 발걸음을 시작했다. 정부는 작년 12월 범부처가 참여한 ‘인공지능 법제도 정비 로드맵’을 발표했다.

송주상 기자 sjs@chosunbiz.com


T조선 뉴스레터 를 받아보세요! - 구독신청하기
매일 IT조선 뉴스를 받아보세요 닫기