KOTI 한국교통연구원

# 프로그램된 로봇도 딜레마 상황에 빠질 수 있다고 생각하시나요?
아이작 아시모프의 소설에서 사람의 마음을 읽는 로봇은 그 누구의 마음도 다치지 않게 할 수 없다는 것을 깨닫고 스스로 기능을 정지합니다. 위와 같은 상황이 자율주행차에게 일어나게 된다면 어떨까요?

# 딜레마 상황에 대비한 자율주행차의 윤리 알고리즘 개발의 필요성
자율주행차가 논리적인 계산에 의한 상황 판단이 불가한 딜레마 상황에서 스스로 기능을 정지하면 큰 교통사고가 발생할 것이기에 딜레마 상황에 대비한 자율주행차의 윤리 알고리즘 개발이 필요합니다.
그렇다면 최대 다수의 행복을 추구하는 공리주의적 선택이 정당한지, 부당한지 쉽게 판단할 수 없는 도로 속에서 자율주행차가 겪게 되는 윤리적 딜레마는 어떤 것이 있는지 함께 알아봅시다!

# 첫 번째 딜레마, 어린이와 노인을 마주하여 피할 수 없는 상황에 직면하였을 때
양자의 기대수명에 따른 미래 효용을 비교하여 어린이의 생명을 존중하는 선택을 할 경우 노인의 생명 존엄에 대한 정당성이 희생될 수 있습니다.

# 두 번째 딜레마, 튼튼한 차와 약한 차 둘 중 하나와 부딪혀야 할 때
튼튼한 차와 부딪히는 선택을 한다면 피해는 최소화할 수 있지만 충돌할 위험이 큰 튼튼한 차를 타는 사람은 감소할 것이며, 전체적으로 운전자의 안전을 더욱 위협할 우려가 있습니다.

# 자신의 피해가 보이는 상황에서 공리주의적 선택보다는 개인주의적 선택을 하는 사람들
Q. 당신이 탑승한 자율주행차가 보행자 10명과 마주했을 때 어떻게 행동하겠습니까?
A. 응답자 83%, 나의 피해를 최소화하는 방법 선택!
▶자율주행차의 윤리 알고리즘을 공리주의적 기준에 따라 설계하면 위기 상황에거 다수를 위해 탑승자를 희생시키는 차를 안심하고 탈 수는 없을 것입니다.

# 철학적이고 복잡한 자율주행차의 윤리적 알고리즘 설정을 위한 방법: ‘다양한 분야의 전문가가 참여하여 윤리에 대한 논의 진행하기’
교통 분야뿐 아니라 로봇공학, 교통공학, 기계공학, 전자공학 등 공학 분야 전문가와 윤리학, 철학, 법학 등 인문학 분야 전문가의 참여로 자율주행차의 알고리즘에 대한 사회적 합의를 도출할 필요가 있습니다.

지금까지 한국교통연구원의 「자율주행자동차 사회적 수용성 향상 기반기술 연구」, 그리고 「자율주행 자동차 윤리 및 운전자 수용성 기초연구」를 통해 자율주행차가 마주한 윤리적 딜레마에 대하여 알아보았습니다.
​미래의 주요 성장동력이자 인적 요인으로 인한 교통사고를 현저히 줄일 수 있을 것이라 기대 받고 있는 자율주행차!
다수가 공감할 수 있는 알고리즘에 대한 사회적 합의가 완성될 수 있기를 바랍니다.