“AI 발전 만큼 AI 윤리 병행돼야”…카카오, 새로운 알고리즘 윤리헌장 발표

북마크 완료!

마이페이지의 ‘북마크한 기사’에서 읽으실 수 있습니다.

북마크한 기사 보러가기 close
입력 2019.08.30 18:34 | 수정 2019.08.30 18:38
카카오는 최근 인공지능(AI) 외연 확장에 집중하고 있다. 모든 서비스 근간이 될 수 있기 때문이다. 카카오는 이를 위해 다양한 시도를 하면서 카카오AI를 통해 최종 목적지를 ‘모두를 위한 지능’으로 삼았다. 인간과 AI 상호작용(인터랙티브)으로 보다 자연스럽게 인간을 돕는 것이다. 하지만 기술만 발전해선 문제가 발생할 수밖에 없다. 기계는 윤리의식이 없기 때문이다. 카카오가 AI를 발전시키면서 AI윤리도 함께 돌아보는 이유다.

김대원 카카오 대외정책팀 이사가 AI 윤리와 관련된 내용을 발표하고 있다. / IT조선
30일 카카오는 서울 강남구 코엑스에서 if kakao 2019 개발자 컨퍼런스가 열렸다. 29일부터 이틀에 걸쳐 개최된 이번 행사는 카카오 검색, 커머스, 금융 부문과 카카오AI, 블록체인 기술 등으로 나뉘어 치러졌다.

이날 김병학 카카오AI랩 부문 총괄 부사장은 기조연설자로 나서 "카카오AI는 지난해 외형적으로 성장했다"며 "앞으로는 사람과 물 흐르듯 대화를 할 수 있는 수준으로 발전할 것이다"라고 밝혔다. 그는 이어 "인간과 AI 상호작용 등 모든 것을 포함해 모든 순간 새롭고 의미 있는 발견을 자연스럽게 제공하는 것이 카카오AI 목표다"라고 강조했다.

이를 위해 카카오는 디플로(DFLO) 프로젝트를 공개했다. 디플로는 사람과 AI, 딥러닝, 대화를 상징하는 D와 흘러간다는 뜻의 플로우(Flow) 합성어다. 매끄럽고 자연스럽게 대화하는 인공지능 시스템을 뜻한다.

김 부사장은 "현재 인터페이스에서만 제공하는 단순한 쿼리 구조 대화에서 어떻게 말을 이어나가야 할지까지 생각해 새로운 방향으로 고민하고 있다"며 "이를 위해 올해는 'MRC', '미니미(Minimi)', '심슨(simson)' 등의 기술에 집중한다"고 설명했다.

"AI 기술과 서비스만 발전하면 위험 초래"

같은 시각 카카오는 2층 컨퍼런스룸에서 카카오 AI 윤리의 새로운 알고리즘 윤리헌장을 발표했다. 한쪽에서는 AI 기술과 서비스 발전을 얘기하면서 다른 한편에서는 AI 발전에 따른 윤리 문제 해결방안을 고민하면서 이를 위한 해결책을 위해 노력하는 모습이다.

발표를 맡은 김대원 카카오 대외정책팀 이사는 "우리가 로봇하면 쉽게 떠올릴 수 있는 터미네이터를 생각하면 왜 AI가 윤리적이어야 하는지 쉽게 감을 잡을 수 있다"며 "인공지능 윤리를 따져야할 시기가 맞냐는 논쟁이 있지만 이를 뒤로하고 알고리즘 개발과 관리를 포함한 운영 일체에서 합의된 윤리 의식이 수반돼야 한다는 문제의식에서 윤리 헌장은 시작했다"고 설명했다.

앞서 카카오는 2018년 1월 국내 기업 최초로 알고리즘 윤리 원칙을 마련했다. 당시 카카오는 알고리즘 기반으로 발전하는 AI와 로봇을 윤리적으로 개발하고 활용하기 위해 ▲카카오 알고리즘의 기본 원칙 ▲차별에 대한 경계 ▲학습 데이터 운영 ▲알고리즘 독립성 ▲알고리즘에 대한 설명 등을 골자로 한 ‘카카오 알고리즘 윤리 헌장’을 발표했다. 카카오는 또 2018년 11월에는 유네스코 본부가 개최한 AI 정책 포럼에 윤리헌장을 발표해달라 초청받기도 했다.


김대원 이사는 "AI 윤리 의식을 정비하는 차원에서 임직원들 의견을 모아 이 같은 헌장을 만들었다"며 "삶의 편의를 한 단계 높일 AI가 사회 윤리 범주 안에서 온당하게 유지될 것을 추진하고 있다"고 설명했다.

카카오는 이날 알고리즘 윤리 헌장에 기술포용성 항목을 추가한다고 발표했다. 기술 포용성
조항은 알고리즘 기반 기술과 서비스가 우리 사회 전반을 포용할 수 있도록 노력한다는 내용을 담았다.

김 이사는 "카카오는 우리 사회 모든 구성원이 카카오 기술과 서비스를 통해 함께 성장하는 미래를 지향한다"며 "알고리즘은 그 자체에 내재된 특성으로 인해 의도하지 않은 사회적 소외를 초래할 수 있는 만큼 역기능에 민감할 뿐 아니라, 알고리즘을 활용해 사회적 취약 계층의 편익과 행복을 증진할 수 있는 방안에도 주의를 기울이고자 한다"고 설명했다.

그는 마지막으로 "카카오가 AI 기업윤리 헌장을 발표하는 건 어쩌면 큰 리스크를 안고 가는 셈이다"라며 "그럼에도 이를 발표하고 발전시키는 이유는 이용자와 신뢰관계를 강화하기 위해서다"라고 강조했다. 그는 이어 "기업 경쟁력을 훼손하지 않는 범위 내에서 AI 윤리를 위해 계속 공개하고 발전시켜 나갈 계획이다"라고 덧붙였다.

0
주요 뉴스
지금 주목할 뉴스