국내 한 배달 플랫폼 업체는 인공지능(AI) 알고리즘 배차시스템 때문에 논란이 일었다. 도로나 교통 상황을 고려하지 않은 직선 거리를 기준으로 설정하고 이를 기준으로 일감을 배정했기 때문이다. 실제로는 20분이 걸리는 거리인데도, 알고리즘은 직선 거리를 기준으로 10분이면 배달할 수 있다고 판단했다. 이로 인해 라이더의 사고 위험을 부추긴다는 지적이 나왔다.
택시 기사 사이에서도 알고리즘을 향한 불만은 쏟아진다. 해당 플랫폼이 운영하는 가맹 택시에 더 우선적으로 택시를 배차하는 것 아니냐는 의혹이 지속되고 있다. 의구심은 끊임없는 실험을 부르기도 한다. 유튜브 등을 보면 다양한 스마트폰을 구비해두고, 택시 호출 배정을 확인하고 실험해보는 내용의 콘텐츠가 다수 업로드된 상태다. 불신이 누적된 것이다.
류호정 정의당 의원이 지난달 25일 ‘알고리즘 투명화법'(정보통신법 일부개정안)을 대표발의한 이유다. 해당 법안은 방송통신위원회 산하에 별도 위원회를 구성해 누구든 영리 목적으로 운영되는 조직에 알고리즘 검색, 배열 원리의 설명을 요구할 권리를 갖도록 하는 게 골자다.
알고리즘은 이용자의 온라인 활동 데이터와 개인정보 등을 일정한 규칙에 따라 재배열한 논리 절차다. 류 의원은 그런 알고리즘의 설계와 작동원리에 의구심이 쌓이는 상황에서 알고리즘 작동 원리의 의구심을 해소할 수단이 있어야 한다고 봤다. 만약 기업이 영업비밀 등을 이유로 설명을 거부하면 이를 방송통신위원회 산하 알고리즘투명성위원회가 심의해야 한다.
최근 미국, 유럽에서도 거대 플랫폼 기업을 규제하기 위한 논의가 한창이다. 이같은 논의는 국내에도 상륙했다. 국회와 정부에서 발의되고 있는 온라인 플랫폼 공정화 법안, 전자상거래 법안 등이 경쟁적으로 발의되고 있다.
이같은 법안 안에는 류 의원 발의안과 엇비슷한 내용도 있다. 대규모 플랫폼 사업자의 콘텐츠 노출 방식과 순서를 결정하는 기준을 공개해야 한다는 것이다. 다만 류 의원의 법안의 사정 범위는 좀 더 넓다. 법안은 다만 기업만을 타깃하지 않는다. 알고리즘을 활용해 영리를 추구하는 조직은 누구나 ‘설명 요구'의 대상이 될 수 있다. IT조선은 류 의원을 만나 해당 법안의 발의 배경과 의도, 빅테크 규제에 대한 생각을 물었다.
"쿠팡 사례가 발의에 영향을 줬다. 그러나 이뿐만 아니라 검색 알고리즘이 시민의 삶에 미치는 영향이 전례없이 많아졌다. 코로나19 이후 비대면 생활이 확산됐다. 그러다보니 알고리즘이 영리 목적으로 마음껏 이용되게끔 하는 것이 옳은가에 고민을 하게 됐다.
알고리즘은 운영 주체의 영업 비밀에 속하는 측면이 있다. 그러나 이해 당사자가 먹고 사는데 큰 영향을 미치는 것도 현실이다. 알고리즘을 활용해 영리를 추구하는 조직을 간접적으로 견제하기 위한 수단 또한 필요한 상황에서 이같은 입법안을 고민하게 됐다.
알고리즘은 이용자의 온라인 활동 데이터나 개인정보를 일정한 규칙에 따라서 재배열한 논리 절차다. 같은 알고리즘이라도 개인에 따라 다른 화면을 보여주는 것은, 개인의 데이터가 모두 다르기 때문이다. 그렇기 때문에 알고리즘 설명법은 데이터 생산 주체인 개인이 자신의 정보를 기반으로 작동한 알고리즘이 어떻게 작동했는지 정당한 설명을 요구할 수 있도록 했다."
―기업만 적용 대상으로 두지 않는다. 알고리즘을 활용하면서 영리를 추구한다면 어떤 조직이든 설명을 요구할 수 있도록 했다. 기업 뿐 아니라 다양한 조직이 법안의 사정권에 들어가야 한다고 판단하신 구체적 이유가 있나?
"영리를 목적으로 알고리즘을 활용하는 조직이라면 모두 다 대상이 되도록 했다. 예를 들면 한국전력 같은 공기업도 포함될 수 있다.
넷플릭스에 오류가 발생해 잘못된 알고리즘을 기반으로 개인에게 엉뚱한 영화 추천을 할 수 있다. 그런데 이는 시민의 삶에 중대한 영향을 미치는 경우는 아니다. 이런 경우는 제외다.
오히려 영리 기업이 활용하는 알고리즘이 아니라 다수 시민을 대상으로 한 소프트웨어나, 군사 작전에 이용되는 드론에 사용되는 알고리즘이 오류가 발생하면 굉장히 큰 영향을 미칠 수 있다. 이런 점들을 고려해보면 기업이 사용하는 알고리즘에 영향을 미칠 수밖에 없다."
―업계는 반발한다. 무엇보다 AI 기반 알고리즘 활용 기술의 특수성을 감안해야 한다고 지적한다. AI가 검색 결과물이 어떤 논리로 도출되는지를 사람이 이해하기 어렵다는 것이다. 배열 원리 설명은 어떤 식으로 이뤄져야한다고 보나.
"업계 반발은 잘 알고 있다. AI가 적용된 알고리즘 특성상 사람이 작동 원리를 알기 힘든 ‘블랙박스' 영역이 있다. 그러나 알고리즘 작동이 통째로 블랙박스인 것은 아니다. 알고리즘 설계시 어떤 원칙과 기준, 디자인 규칙을 담을 것인지는 결국 사람이 정한다. 알고리즘을 학습시킬 데이터의 양이나 범위는 사람이 정한다는 뜻인다. 법안은 설명을 요구받은 알고리즘의 모든 것을 공개하도록 하는 법안이 아니다. 알고리즘 초기 설계 당시에 적용된 원칙과 가이드라인에 방향에 대해 설명하라는 것이 핵심이다."
―영업비밀 침해를 우려하는 목소리도 나온다. 알고리즘 작동 자체가 영업비밀이기 때문에 이를 설명하라는 요구는 기업의 이익을 지나치게 침해한다는 것이다. 특히 플랫폼 사업자의 경우, 이용사업자 요구로 배열 원리를 설명하면 검색 질이 나빠질 수 있다고 우려한다. 모두가 공개된 알고리즘 원칙에 맞춰서 인위적으로 콘텐츠나 상품을 업로드할 수 있다는 것이다.
"다시 말씀드리지만 법안이 요구하는 알고리즘 설명 원칙은, 알고리즘의 ‘모든 것'을 공개하라는게 아니다. 모든 수식의 공개가 아니다. 알고리즘을 설계할 때 설정한 굵직한 기준과 가이드라인 등을 설명하라는 요구가 핵심이다.
또 어떤 이에게는 알고리즘이 데이터를 보여주고 측정하는 방식이 직업적 생존과 삶에 큰 영향을 미친다. 영업비밀이기 때문에 설명할 수 없다는 원칙을 고수하는 것은 무책임하다. 개인의 삶에 큰 영향을 미칠 수 있는 판단을 모두 알고리즘이 한 것이라며 책임을 미루는 태도를 경계해야 할 필요가 있다."
―해당 법안에는 최승재 국민의힘 의원도 이름을 올렸다. ‘초당적’이라는 평가가 나온다. 어떻게 설득하셨나.
"많은 의원이 알고리즘이 우리 사회에 미치는 영향이 크고 대비가 필요하다는 문제의식을 갖고 있다. 따로 설득이 필요하진 않았다. 의원님과 설명 가능한 인공지능, 안전한 알고리즘이 우리가 나아가야 할 방향이라고 공감대가 형성된 상태였다. 시민들의 데이터를 마음껏 활용하고 비공개 방식으로 알고리즘을 움직이는 방향이 그렇게 바람직하진 않다고 생각하는 의원들이 의견을 모은 것이다."
―사실 국내 뿐 아니라, 해외에서 앞서 빅테크 플랫폼 규제가 필요하다는 문제의식이 높아지고 있다. 문제는 ‘어떻게'다. 플랫폼 사업이라는 것이 우리 시대에 새롭게 탄생한 기업 형태다. 때문에 법안 논의는 이제 시작 단계다. 의원님은 거대 플랫폼을 ‘어떻게’ 견제해야 한다고 보나.
"알고리즘 투명화법도 플랫폼 규제의 한 측면이다. 큰 틀에서는 거대 플랫폼 기업을 규제하려는 과정이자 수단이다. 알고리즘을 활용하지만 책임을 지지 않고, 이해 관계자의 불만을 수렴해서 공개 또한 하지 않으려는 태도를 견제하려는 법이기 때문이다. 플랫폼이 이해관계자의 발언권을 충분히 보장하고 피해를 방지하기 위한 최소주의적인 규제라고 생각한다.
다만 ‘어떻게' 견제해야 할 지는 머리를 맞댄 고민이 선행되어야 한다. 앞서 플랫폼 규제 방법론에 앞서서 이 시대에 독점 플랫폼 기업 정의를 사회적으로 합의하는 과정도 필요하다. 누군가는 네이버를 독점 기업이 아니라고 볼 수 있다. 그렇다면 규제의 방법론이 달라진다. 저는 개인적으로 거대 기업 네이버 등 주요 플랫폼 사업자의 독점성을 견제해야 한다고 본다. 네이버가 네이버페이를 우선 노출하는 행위나, 쿠팡이 이용 사업자들의 출혈 경쟁을 유도하는 것이 불공정하다고 생각한다. 이에 대한 규제가 필요하다고 본다."
―시장 지배적 사업자인 플랫폼이 자기 사업을 우대(self-preferencing)하지 못하도록 해야 한다는 의견으로 보인다. 앞서 유럽도 비슷한 사례가 있었다. 구글은 자사의 사업인 구글쇼핑에만 다소 유리한 알고리즘을 작동시켰다. EU집행위원회는 이같은 행위가 시장 경쟁을 왜곡시키지 말아야 할 의무가 있는 플랫폼이, 자기사업을 우대한 행위라고 보고 시정명령을 내렸다. 비슷한 문제의식으로 보인다.
"그렇다. 특히 법안은 알고리즘 설명 원칙을 알려주는 것만으로 플랫폼 의무가 해소됐다고 보지 않는다. 알고리즘 설계한 가이드라인이 차별 금지 원칙 등을 위배할 경우엔 이를 시정조치하도록 설계했다. 문제 있는 알고리즘이 그대로 방치되어서 시장에서 살아남아선 안된다고 생각한다. 꽤 높은 수준의 과징금 조항을 넣은 이유다. 특히 한국은 해외에 비해 기업의 불공정 행위에 과징금 수준이 낮은 편이다. 이들 기업이 위협을 느낄만한 제재가 반드시 필요하다."
―미국에선 빅테크 아마존이 자사 브랜드 상품을 플랫폼 내에서 팔지 못하도록 하는 내용의 규제까지 논의된다.
"맞다. 자본주의와 경쟁을 강조하는 곳일수록 독점 폐해를 잘 알고 있다. 그만큼 기업의 독과점을 막기 위해 노력하는 합리적 선택을 하려고 한다. 하지만 우리나라는 독점을 막겠다는 취지로 발의되는 법안을 굉장히 부정적으로 본다. 그런 점이 아쉽다."
―정의당 차원에선 플랫폼 규제 입법논의가 어떻게 진행되고 있나?
"제출한 알고리즘 투명화법은 반독점 규제의 한 축이다. 설명 요구권이 핵심이다. 배진교 의원은 온라인 플랫폼 공정화법을 반독점 관점에서 고민하고 있다.
또 개인정보 활용의 범위를 고민하는 내용을 담은 법안도 준비하고 있다. 알고리즘과 인공지능 연료가 데이터다. 그리고 데이터는 개개인이 생성한다. 그렇기 때문에 알고리즘을 활용하는 경우에 개인의 정보를 어디까지 활용할 수 있는지에 대한 일정한 기준을 정해야 할 필요성을 느끼고 있다."
이은주 기자 leeeunju@chosunbiz.com