[이제 자율주행이다] ③‘AI 판단 믿어도 될까’ 윤리 딜레마

입력 2020.03.27 09:10

①‘추격자’서 ‘개척자’로 진화 노리는 韓 ②기술 적용은 ‘눈앞’ 제도 정비는 ‘먼 미래’

# 자율주행차가 갑자기 도로에 뛰어든 사람과 충돌을 앞두고 있다. 어린이와 노인 가운데 한 사람의 인명 손실은 불가피하다. 어린이를 살려야 할까? 노인을 살려야 할까?

# 절벽길을 주행하는 자율주행차 앞에 5명의 사람들이 뛰어들었다. 차가 방향을 틀면 5명의 목숨을 구하지만 탑승자는 낭떠러지로 떨어져 죽는다. 이 차는 어떤 선택을 해야할까?

자율주행 인공지능(AI) 판단과 관련해 항상 언급되는 ‘트롤리 딜레마’다. AI가 다수를 살리기 위해 소수를 희생할 지, 생명의 경중을 어떻게 판단할 지 등에 대한 기준은 자율주행시대를 앞두고 풀어야할 과제다. 완전 자율주행차의 운전자는 사람이 아닌 AI이기 때문이다.

1950년대 사람들이 상상하던 자율주행차 모습. / 위키피디아
자율주행 ‘도덕적 판단’ 인종·국가·성별·계층 따라 달라

2018년 10월 24일 세계적 과학저널 ‘네이처’에는 미국 매사추세츠공과대 미디어랩이 ‘도덕적 기계(Moral Machine)’로 이름 붙인 온라인 조사 플랫폼을 통해 233개 국가의 230만명을 대상으로 트롤리 딜레마를 조사·분석한 결과가 실렸다.

도덕적 기계는 2016년 11월부터 2017년 3월까지 3961만개에 달하는 윤리적 선택에 대한 빅데이터를 수집했다. 자율주행차 AI의 윤리적 문제와 관련, 역대 최대 규모 연구다.

연구팀은 탑승자와 보행자의 성별과 숫자, 애완동물 동승 등 조건으로 13가지 시나리오를 만들어 상황에 따른 응답자의 선택을 조사했다.

설문 결과 대체적으로 ▲남성 보다 여성 ▲성인 남성 보다 어린이와 임신부 ▲동물 보다 사람 ▲소수 보다 다수 ▲노인 보다 젊은사람 ▲무단횡단자 보다 준법자 ▲뚱뚱한 사람 보다 운동선수를 구해야 한다는 선택이 많았다.

동서양 응답자의 선택 경향이 다른점도 흥미롭다. 서구권에서는 사람 숫자가 많고 어린아이나 몸집이 작은 사람을 구하는 쪽을 선호했지만, 동양권에서는 사람 숫자와 관계 없이 보행자와 교통규칙을 지키는 쪽이 더 안전해야 한다는 선택을 했다. 남미권은 여성과 어린아이, 사회적 지위가 높은 사람이 더 안전하도록 알고리즘을 설계하는 것을 선호했다.

. / 조선일보 DB
AI가 안전 담보 못해…"사람처럼 판단하는 AI로 학습시켜야"

안전과 법적·윤리적 측면에서 글로벌 기준이 명확히 마련되지 않으면 자율주행차의 완전 상용화가 어려울 것이란 시선도 있다. AI가 운행하는 차가 더 안전할 것이라는 믿음 자체가 틀렸다는 지적이다.

2016년 구글 웨이모 자율주행차는 차선 변경 도중 옆 차로의 버스가 양보할 것으로 오판해 충돌 사고를 일으켰다. 테슬라 모델S는 흰색 트레일러를 장애물이 아닌 ‘밝게 빛나는 하늘’로 인지하면서 브레이크를 밟지 않아 인명사고를 냈다.

잇따른 인명 사고에 그동안 선점 경쟁을 펼쳐온 테슬라, GM, 웨이모 등 자율주행 업체들은 상용화 목표 시점을 늦추는 분위기다. 자율주행 상용화는 운행 기술, 교통 법규, 소비자 선택이라는 세 가지 고비를 넘어야 하는데, 첫 단계인 기술에서 안전성을 더욱 중시하게 된 것에 따른 후속 조치로 풀이된다. 모건스탠리는 2018년 9월 ‘기술적 지연’을 이유로 웨이모의 기업 가치를 1년 만에 40% 낮춘 1050억달러(129조원)로 평가했다.

자율주행 AI의 윤리적 문제는 사회적 합의만 없을뿐, 결국 차를 만드는 업체들이 어떤 알고리즘을 짜느냐에 달렸다. ‘딥러닝’ 기반 AI가 도덕관을 포함한 판단까지 스스로 학습하면 결국 사람의 판단과 다르지 않다는 주장이다.

최강림 KT 커넥티드카 비즈센터장은 "AI가 스스로 윤리적 판단을 내린다는 개념에서 벗어나야 한다"며 "수많은 테스트를 거치고 대량의 데이터를 확보해 AI가 사람처럼 판단할 수 있도록 학습시키는 것이 중요하다"고 강조했다.

자율주행차의 윤리적 판단에 따른 사고 발생 시 법적 책임 소재도 풀어야할 과제다. 2018년 3월 미국의 한 보행자는 우버 자율주행차와 부딪쳐 사망했다. 탑승 직원과 제조사인 볼보 중 누가 책임이 있는지 논란이 됐다. 미교통안전위원회(NTSB)는 장기간 조사 끝에 사고 원인을 우버, 안전 담당 탑승 운전사, 피해자, 애리조나 주 공동 책임으로 돌렸다. 산업을 제대로 규제하지 못한 미 연방정부도 이에 대한 책임을 지도록 했다.

이에 사람의 조작을 완전히 배제한 ‘레벨5’ 수준 자율주행차를 제조사가 상용화하지 않을 것이란 전망도 나온다. 미국 자동차공학회의 분류에 따르면 레벨 1~2는 ‘운전자 지원 기능’이 탑재된 차량이다. 레벨 3를 ‘부분 자율주행’, 레벨 4를 ‘조건부 완전 자율주행’, 레벨 5를 ‘완전 자율주행’으로 구분한다.

자율주행업계 한 관계자는 "탑승자가 운전석에 앉지 않고 자율주행차 운행에 전혀 개입하지 않게 되면 제조사는 사고의 책임을 오롯이 져야하는 입장이 된다"며 "운전자에서 제조사로 보험 비용이 전가될 수 있어 또다른 사회적 합의가 필요하다"고 설명했다.

. / NTSB 홈페이지
국토부 ‘자율주행 윤리 가이드라인’ 최종안 올해 중 고시

정부는 2019년 12월 ‘자율주행 윤리 가이드라인’을 내놨다. 국민이 안전하게 느낄 수 있는 자율주행차 도입에 앞서 제작·운행 과정에서 고려해야 할 기본가치 등을 담았다.

가이드라인에서는 자율주행차의 목표로 인간의 안전과 복리 증진을 제시했다. 기본 가치로 ▲인간의 안전하고 편리하며 자유로운 이동권 보장 ▲인간의 존엄성 ▲사고로 인한 개인적·사회적 손실의 최소화를 정의했다.

또 행위 주체를 설계자·제작자·이용자·관리자·서비스 제공자로 제시했다. 이들이 지켜야 할 행위준칙으로 투명성, 제어가능성, 책무성, 안전성, 보안성 등을 언급했다.

국토부는 윤리 가이드라인에 대한 의견 수렴을 거친 뒤 초안을 수정·보완해 올해 중 최종안을 고시할 예정이다.

김필수 대림대 자동차학과 교수는 "윤리적으로, 상식적으로 이해할 수 없는 사안이 발생할 수 있는 자율주행의 현실에 대한 인식제고가 필요하다"며 "해킹방지는 물론 사고 발생 이후 원인을 정확히 밝힐 수 있는 자동차용 블랙박스 의무 탑재 등 방안도 강구해야 한다"고 말했다.


키워드