사고를 피할 수 없을 때 자율주행차는 무엇을 택해야 하나

자율주행차의 윤리 문제는 사고를 완전히 피할 수 없는 순간에 차가 어떤 선택을 하도록 미리 정해 둘 것인가에 관한 질문이다. 사람 운전자는 찰나의 순간에 반사적으로 반응하고, 그 결과를 두고 도덕적 판단을 엄격하게 따지지 않는다. 그러나 자율주행차는 누군가가 미리 정해 둔 규칙과 학습된 판단으로 움직인다. 그래서 '그 순간 무엇을 택해야 하나'라는 질문에 사회가 답을 정해야 하는 상황이 되었다.

트롤리 문제는 어떻게 도로로 내려왔나

트롤리 문제는 오랫동안 철학에서 쓰인 사고 실험이다. 브레이크가 고장 난 전차가 달려가는 앞에 다섯 사람이 있다. 선로 전환기를 당기면 전차가 다른 선로로 가서 한 사람만 다친다. 당겨야 할까. 많은 사람이 당겨야 한다고 답하지만, 조건을 조금만 바꾸면 판단이 크게 흔들린다.

자율주행차가 등장하면서 이 질문은 구체적인 모습이 되었다. 앞차가 갑자기 멈췄고 제동해도 충돌을 피할 수 없다. 핸들을 꺾으면 승객은 살지만 인도의 보행자가 다칠 수 있다. 직진하면 승객이 다친다. 차는 어떻게 움직이도록 설계되어야 할까.

사람들은 어떤 선택을 원하나

연구자들은 온라인 실험으로 세계 여러 나라 사람들에게 이런 상황에서 차가 어떻게 해야 하는지 물었다. 많은 사람이 더 많은 생명을 구하는 쪽, 동물보다 사람을, 나이 든 사람보다 어린 사람을 구하는 쪽을 선호하는 경향을 보였다. 그러나 이런 선호의 정도는 나라와 문화에 따라 상당히 달랐다.

흥미로운 모순도 드러났다. 사람들은 대체로 차가 다수를 구하기 위해 승객을 희생하는 것이 옳다고 답했다. 그런데 정작 자기가 그런 차를 사겠느냐고 물으면 망설였다. 남들의 차는 공리적으로 판단하기를 바라면서, 내 차는 나를 먼저 지켜 주기를 바라는 것이다. 이 모순은 시장에 맡겨 두면 윤리적 원칙과 다른 방향으로 기술이 흘러갈 수 있음을 보여 준다.

쟁점	한쪽의 입장	다른 쪽의 입장
누구를 우선하나	피해를 최소화하는 공리적 선택	승객 보호를 우선
나이·성별 등을 고려하나	생명의 가치를 따져야	사람을 특성으로 차별하면 안 됨
누가 정하나	제조사의 설계	법과 사회적 합의

사람의 특성으로 판단해도 되나

가장 민감한 지점은 사람을 나이나 성별, 사회적 지위 같은 특성으로 구분해 판단하는 것이다. 이를 허용하면 생명의 가치를 기계가 등급 매기는 셈이 된다. 독일에서는 정부가 꾸린 윤리 위원회가 자율주행에 관한 원칙을 내놓으며, 사고 상황에서 나이나 성별 같은 개인적 특성에 따라 사람을 차별해서는 안 된다는 입장을 밝힌 바 있다. 피해를 줄이려는 일반적인 원칙은 받아들일 수 있지만, 특정한 사람을 골라 희생시키는 판단은 안 된다는 것이다.

트롤리 문제는 과장된 질문인가

반론도 만만치 않다. 실제 자율주행차의 개발자들은 이런 극적인 선택 상황이 매우 드물다고 지적한다. 대부분의 사고는 누구를 희생시킬지 고르는 순간이 아니라, 주변 상황을 제대로 인식하지 못하거나 예측하지 못해서 일어난다. 그래서 윤리 논쟁이 트롤리 문제에만 쏠리면, 더 흔하고 현실적인 문제를 가린다는 비판이 있다. 시스템이 어린이나 휠체어 사용자처럼 학습 자료에 적게 나온 보행자를 덜 정확하게 인식하지는 않는지, 그런 편향이 실제 위험의 차이로 이어지지는 않는지가 오히려 더 시급한 윤리 문제라는 것이다.

아직 결론 나지 않은 것

자율주행차가 사고 순간에 따를 원칙을 누가 어떻게 정할지에 대한 국제적인 합의는 아직 없다. 제조사의 설계에 맡길지, 법으로 정할지, 원칙을 공개할지도 나라마다 논의가 진행 중이다. 분명한 것은, 자율주행차가 사람보다 사고를 크게 줄일 수 있다면 드문 딜레마에 대한 답을 기다리느라 그 이익을 미루는 것도 하나의 윤리적 선택이라는 점이다. 기술이 앞서가는 만큼 사회의 논의도 함께 속도를 내야 한다.