알렉스 번   각 사회에서, 특히 민주주의 사회에서 무엇이 옳은 정책인지 모두의 합의를 얻기란 쉽지 않죠. 그 문제를 구체적인 윤리 문제로 범위를 좁힌다고 해도 마찬가지일 것입니다. 예를 들어 ‘이런 상황에서 정확히 옳은 결정이란 무엇일까?’, ‘윤리적인 관점에서 우리가 도입해야 하는 정책은 어떤 것일까?’ 아니면 ‘정의가 요구하는 것은 무엇일까?’ 같은 문제들처럼 말이죠. 부자에게서 돈을 빼앗아 가난한 사람들에게 주는 것이 정의로울까요? 만약 부자들이 다른 사람으로부터 돈을 훔친 게 아니라 정직하게 번 돈이라면 그들의 허락 없이 돈을 빼앗는 건 정의로운 일이 아니겠죠. 이는 정치 철학자들이 수 세기에 걸쳐 논의해 온 복잡한 문제들입니다. 저는 인공지능이 이런 종류의 새로운 문제를 야기한다고는 보지 않습니다. 결국 어느 순간 우리는 서로의 다름을 인정하거나, 앞으로의 방향에 대해 깔끔하지 못한 타협을 해야 할 때가 올 것입니다.

우연히도 송이 님께서 전차 문제와 매우 관련 있는 이야기를 꺼내셨는데요, 이는 이러한 문제가 얼마나 어려운지를 보여 주는 것 같습니다. 사람들에게 “당신이 전차 문제와 같은 상황에 놓였다면, 스위치를 눌러 다섯 명을 구하고 한 명을 희생시킬 건가요?”라고 묻는다고 가정해 보죠. 대부분의 사람들은 “네, 스위치를 눌러야겠죠. 스위치를 눌러서 한 사람이 죽겠지만 적어도 그 선택이 잘못된 선택은 아닐 거예요.”라고 말할 것입니다. 더 적은 수의 사람이 희생되는 쪽을 선택하는 게 더 나은 원칙으로 여겨질 수 있습니다. 그렇다면 그 원칙을 따르게 되겠죠. 그것이 원칙이 될 수 있겠지만 좀 더 생각해 보면 더 나은 원칙이 아닐 수도 있다는 걸 알게 될 것입니다.

여기 송이 님께서 들어 보셨을 법한 사례가 하나 더 있습니다. 매우 건강한 남자 한 명이 어머니를 뵈러 병문안을 왔다고 가정해 보죠. 병원에는 다섯 명의 사람이 있습니다. 그들 각각은 콩팥, 심장, 간 등의 장기를 필요로 하며, 장기를 기증받지 못하면 곧 죽게 됩니다. 어머니를 뵈러 온 이 무고한 남성의 배를 갈라서 다섯 사람에게 장기를 나눠 준다면, 우리는 한 사람의 희생으로 다섯 사람을 구할 수 있습니다. 하지만 다섯 사람을 구하기 위해 이 무고한 한 명을 죽여야 하냐고 묻는다면, 대부분의 사람들은 당연히 안 된다고 할 것입니다.

그러니까 더 많은 생명을 살리기 위해 소수를 죽이는 선택은 결국 원칙이 아닙니다. 원칙은 그보다 더 복잡한 것이죠. 그래서 윤리가 어렵다는 것입니다.