AI 투명성 글로벌 챌린지와 한국의 과제 [서유경의 콘텐츠 공정계약]

AI 규제에서 투명성이라는 개념은 중요한 이슈로 부상했다. 다만 국가마다 그 의미와 적용 방식은 다르다.

AI 투명성은 단일한 개념이 아닌 다양한 해석과 구현이 가능한 개념이다. 국가별로 가치관, 목표, 경제, 정치, 사회적 맥락을 고려해 AI의 데이터, 알고리즘, 결정 과정 및 책임 소재를 어떻게 다룰지 결정한다.

해외 각국 사례를 통해 한국의 과제는 무엇인지 살펴봤다.

미국은 산업을 지원하고 혁신을 장려하는 데 중점을 둔 AI 규제를 마련했다. 조 바이든 미국 대통령의 행정 명령은 이러한 산업 친화적 접근을 강조하면서 AI 투명성의 새로운 기준을 제시했다. 특히 대선 같은 정치적 이벤트는 이 규제 방향에 영향을 줄 수 있다.

미국의 규제 전략은 부문별로 실행된다. 미국 국립표준기술원(NIST)은 AI 사용으로 인한 리스크를 평가하고 조정하기 위한 프레임워크를 개발했다.

예를 들어 NIST는 AI 시스템의 신뢰성과 안전성을 높이기 위한 국가 표준을 수립했다. 또 미국 인공지능 안전연구소(US AI Safety Institute)의 설립 계획은 연방 정부 차원에서 AI 정책을 강화하고, 시스템의 안전성·신뢰성·윤리성을 보장한다. 이 외에도 응용 분야별 국가적 표준을 설정하는 데 기여할 것으로 보인다.

중국은 국가 중심의 관리와 통제가 핵심이다. 국가 인공지능사무국의 설립 제안과 함께 독립적인 사회적 책임 보고서의 연간 제출을 요구한다. 시장에 새로운 AI 제품이나 서비스가 도입될 때마다 정부는 이에 대한 특정 규제를 마련한다. 그중 특히 고위험 AI 분야는 엄격한 규제를 시행한다.

구체적으로는 중국 정부가 최근 얼굴 인식 기술 같은 AI 시스템을 공공장소에 배치할 때 적용하는 엄격한 규제가 있다. 이런 규제는 개인의 프라이버시 보호와 데이터 보안을 위해 모든 AI 모델이 사용 전 정부의 검토와 승인을 받도록 요구한다.

중국은 또 AI 모델의 사용과 배포를 위한 광범위한 모니터링 및 평가 체계를 갖추고 있다. 모든 기초 모델은 공개 전 정부에 투명하게 보고되어야 한다. 중국 정부는 AI 산업 전반을 규제하기 위한 국가적 표준을 정하는 법안을 준비하고 있지만 해당 법안의 구체적 내용과 시행 일정은 아직 명확히 공개되지 않았다.

유럽연합(EU)은 최근 인공지능법(AI Act)을 시행했다. EU의 인공지능법은 소비자 보호에 중점을 둔다. 이 법은 AI 시스템의 개발, 배치, 사용을 규제하는 세계 최초의 포괄적 법안으로 시스템을 위험성에 따라 분류하고 위험도에 비례해 규제한다. 공공안전, 교육, 고용, 중요한 사회적 인프라 등은 엄격한 규제를 받는다.

특히 소비자는 AI가 생성한 콘텐츠임을 인지할 수 있도록 충분한 정보와 명확한 표시를 받아야 한다. 예를 들어 AI 사업자는 ‘인사추천 시스템이 어떤 데이터와 알고리즘을 바탕으로 추천하는가’ 같은 정보를 소비자에게 투명하게 제공해야 한다.

또 AI 시스템의 결정 과정은 기록, 저장, 후검토가 가능해야 한다. 필요한 경우 감사를 통해 시스템 사업자의 책임을 명확히 할 수 있어야 한다.

이 법안은 한국을 포함한 다른 국가에 AI 시스템의 투명성과 소비자 보호를 강화할 것을 요구한다. 이는 국내 기업이 글로벌 경쟁력을 유지하기 위해 AI의 개발과 사용 과정에서 투명성을 보장하고 소비자 권리를 보호해야 함을 의미한다.

한국은 현재 AI 규제를 둘러싼 입법 논의 단계로 볼 수 있다. 이 시점에서 국제적 추세를 면밀하게 분석하고 한국 AI 산업에 맞는 투명성 기준을 정립해야 한다. 이 과정에서 해외 입법 사례를 참고해 산업 발전, 규제 준수, 소비자 보호 등을 고려한 투명성을 추구하는 것이 중요하다.

EU의 인공지능법 시행이 ‘브뤼셀 효과’를 통해 한국에 영향을 줄 것으로 예상된다. 브뤼셀 효과는 EU가 소비자 보호 등을 위해 규범을 만들면 다른 국가들과 여러 기업이 이를 따르는 것을 말한다.

한국은 단순 모방을 넘어 국내 상황에 맞는 투명성을 위해 사회적 합의 및 윤리적·정치적·경제적 요소를 고려해야 한다. 이러한 접근은 한국이 추구해야 할 AI 생태계 방향성을 정의하는 데 핵심 과제가 될 것이다.