"사악해지지 말자(Don't be evil)" 구글정신이 도전받고 있다. 최근 구글은 '뼈 아픈' 사고 소식을 처음으로 인정해야 했다. 자율주행자동차가 버스와 충돌했다는 것. 다행히 인명사고는 없었지만, 윤리적 논란을 불러 일으켰다.
구글 자율주행 차 프로젝트에는 두 종류의 차가 있다. 도요타 프리우스·렉서스RX450와 같은 기존 차량을 개조하고 테스트 드라이버(사람)'가 운전을 보완하는 자율주행차와, 운전석이 제거된 채 전적으로 소프트웨어에 운전을 맡기는 새로운 형식의 자율주행차다.
사람이 아닌 소프트웨어가 운전한다고 해서 ‘무인 자동차’라고 불리기도 한다. 하지만 개조한 차의 경우, '자율주행 모드(Autonomous mode)'에서는 소프트웨어가 운전을 하고, '매뉴얼 모드(Manual mode)에서는 테스트 드라이버가 운전을 한다.
구글 자율주행차는 지난 6년간 330만 ㎞를 달리며 17건의 사고를 낸 적이 있었으나 모두 다른 차의 과실로 끝났기에 "사람 보다 안전운전을 하는 자동차"라는 수식어가 부끄럽지 않았다. 하지만 이번 경우는 달랐다. 자율주행차의 '판단 미스'였다. 버스의 감속을 당연히 여기지 않고 멈추거나 속도를 줄이는 대처했다면 일어나지 않을 수도 있었다. 때문에 구글도 '뼈 아픈' 일부 책임을 인정 할 수밖에 없었던 것이다.
사고 경위는 이랬다. 렉서스RX450h SUV를 개조한 무인차는 구글 본사가 있는 미국 캘리포니아주 마운틴 뷰 인근에서 자율주행 시험을 하던 중이었다.
우회전 준비 중이던 자율주행차는 전방에 있는 빗물 배수관 주변 모래주머니를 발견했다. 모래주머니를 피하기 위해 잠시 멈춘 뒤, 교통상황을 파악했다. 소프트웨어는 방향을 크게 틀어 우회전을 하면 문제가 없을 것이라 판단했다.
옆 차선 뒤쪽에서 달려오던 버스가, 장애물을 피하려는 자율주행차를 보고 감속할 것이라 여겼기 때문이었다.
하지만 버스는 시속 24.1㎞로 그대로 직진했고, 3.2㎞로 주행 중이던 자율차의 왼쪽 앞부분과 충돌하고야 말았다. 자율주행차는 사람(버스기사)을 너무 믿었고, 자율주행차에 타고 있던 사람은 소프트웨어(자율주행차)를 너무 믿었다. 테스트 드라이버가 매뉴얼 모드로 전환해 운전할 수도 있었지만, 그렇게 하지 않았다.
구글은 "버스는 다른 차보다 양보할 확률이 낮다는 걸 알았다"며 "사고 검토 후 소프트웨어를 수정했다"고 밝혔다.
가벼운 접촉 사고로 왜 호들갑을 떠냐고 할 수도 있지만, 이는 구글의 초심과 멀어진 탓이 크다. 자율주행차를 개발한 세바스찬 스런(Sebastian Thrun)은 18살 때 가장 친했던 친구를 교통사고로 잃게 되면서 '매년 교통사고로 죽는 수백만 명의 목숨을 구하겠다'는 원대한 포부를 갖게 된다. 그래서 그는 "인간의 실수로 발생한 처참한 사고를 기계가 막을 수 있다"고 믿으며 구글 자율주행차 개발에 힘써왔다.
하지만 “만약 인명사고가 발생한다면” 이 기본적인 의문이 마주한 윤리적 잣대는 구글이 헤쳐 나가야 할 커다란 장벽이다. 이 끔찍한 상상이 현실이 되는 순간, 구글은 어떻게 대응을 할까 아이가 타 있는 상대 차를 본다면, 어느 방향으로 자동차를 움직일까 차 주인을 우선할 것인가 상대방을 배려할 것인가 수많은 의문들이 스쳐간다.
이런 가운데, 지난해 12월 구글은 자율주행 기능 해제와 관련한 보고서를 냈다. 2014년 9월부터 2015년 11월까지 14개월간 총 68만 2894 km를 시험주행한 차는 총 272회나 자율주행 기능 해제가 발생했다.
소프트웨어가 인식하지 못한 탓에 차에 탄 테스트 드라이버가 기능 해제한 경우도 총 69회나 됐다. 잘못된 시뮬레이션을 통해 사고가 났을 확률이 높은 경우는 13회나 됐다. 아직은 '사람 없이 완벽하게 자율주행을 할 수 없다'는 한계를 스스로 증명한 셈이다.
지금 떠오르는 건 구글의 초심이다. “구글아, 사악해지지 말자. 정말로 ‘사람을 살리는’ 자동차를 만들어 주렴.”
