트롤리 문제와 도덕적 딜레마

트롤리 문제와 도덕적 딜레마

 

 

 

철로 위에 일하고 있는 노동자 5명을 향해 브레이크가 고장난 기차가 달려오고 있습니다. 당신은 선로변환기를 이용해 기차가 다른 방향으로 가게 할 수 있습니다. 하지만 다른 선로엔 1명의 사람이 서있습니다. 당신은 선로변환기를 이용해 한 사람을 희생해 다섯 사람을 살리겠습니까? - 필리파 푸트

트롤리 딜레마라고 소개되는 문제를 다들 한번쯤은 들어보셨을겁니다. 위 문제에 대해 저를 포함한 대부분의 사람들은 선로변환기를 이용해 5명을 살리는 선택을 했습니다. 다수를 위해서 소수를 희생하는 선택을 한 것입니다.

 

하지만 이 트롤리 문제에 약간의 변형을 해봅시다. 다른 선로에 서있던 1명이 나의 애인이나 가족이여도 우린 똑같이 선로변환기를 이용해 다섯 사람을 살리는 선택을 할까요?

 

또 다른 문제를 소개해드리겠습니다.

어떤 도시에 테러범이 인근에 거주하는 수백만명을 죽이는 폭탄을 설치했습니다. 테러범은 체포되었지만 아직 폭탄의 위치를 모르는 상황입니다. 폭탄이 터지기까진 시간이 얼마 남지 않았고, 몇 시간의 설득에도 테러범은 폭탄의 위치를 말하지 않고 있습니다. 당신은 테러범이 폭탄의 위치를 말하도록 고문하시겠습니까?

이 문제에서도 수백만의 생명을 위해 흉악범을 고문하는 선택은 납득할 만한 차악일수도 있습니다.

 

하지만 마찬가지로 약간의 변형을 해봅시다. 

테러범은 폭탄의 위치를 말할 생각이 없어보입니다. 그 때 동료 경찰이 테러범의 딸을 데려왔습니다. 테러범은 자신의 딸은 건드리지 말아달라고 애원합니다. 당신은 수백만의 생명을 위해 테러범의 딸을 고문하시겠습니까?

만약 더 많은 사람을 구하는 선택을 했다면, 여러분은 목적론적 판단기준을 적용한 것입니다. 

반대로 특정 행동을 행하는 것을 거부했다면, 여러분은 의무론적 판단기준을 적용한 것입니다.

 

목적론적 판단은 공리주의의 "최대 다수의 최대 행복"이라는 좋은 결과를 가져온다면 그 행위는 옳다고 봅니다.

반면 의무론적 판단은 결과와 상관없이 그 행위의 도덕성에 따라 옳고 그름을 판단합니다.

 

트롤리 문제와 같은 도덕적 딜레마는 자율자동차를 포함한 인공지능 분야에서도 많은 고민이 이루어진다.

 

무엇이 옳은 판단인지는 저는 알 수 없습니다. 오히려 위 문제들과 같이 극단적인 상황을 가정하는 것 자체가 도덕적 판단을 함에 있어서 오류일 수도 있습니다. 하지만 이런 고민을 해보면서, 우리는 도덕적 딜레마 상황에 놓였을 때, 어떤 선택을 해야하고, 어떤 판단기준을 들어 논리를 펼쳐나갈지 생각해보는 것도 좋은 공부라 생각합니다.

 

이번 시간에는 트롤리 문제로 시작해서 도덕적 딜레마에 대한 소개를 해봤습니다.

 

다음 시간에는 다수를 위한 소수의 희생이 주제인 게임 "Gods Will Be Watching"을 통해 도덕적 딜레마에 대해 더 이야기 해보겠습니다.