發生交通事故時? 自動駕駛汽車將會犧牲誰？

?

據Business Insider網站報道，專家稱，自動駕駛汽車在“誰的生命更有價值”這一問題上已經作出意義深遠的選擇。因此，人們希望關注它們的選擇。

?

麻省理工學院認知科學家伊亞德·拉萬(Iyad Rahwan)在一封電子郵件中寫道，“每次自動駕駛汽車進行避讓動作時，它就暗中決定了不同群體的危險程度。”

?

在有關自動駕駛汽車倫理的討論中，最有名的問題是電車難題——倫理學領域最為知名的思想實驗之一，意即在一次不可避免的交通事故中，誰應當被犧牲掉。例如，如果一名行人突然倒在快速行駛的自動駕駛汽車前方，汽車可以改變方向撞向路障——可能導致乘客死亡，也可以繼續前行——可能壓死倒地的行人，自動駕駛汽車應當怎么辦？

?

拉萬及其同事研究了人在沒有萬全之策的情況下如何抉擇的問題。雖然致人死亡的場景目前只是一種假設，但拉萬和其他業內人士稱，在自動駕駛汽車普及后，這種情況的出現是不可避免的。

?

還有日常生活中出現的倫理問題，例如，當經過一名騎行者或行人時，自動駕駛汽車應當怎么辦？

加州州立理工大學哲學教授賴安·詹金斯(Ryan Jenkins)表示，“在道路上開車時，你會給周圍的人帶來危險。開車經過騎行者、慢跑者時，我們會盡量離他們遠一些，因為我們認為這樣更安全。即使我們非常相信不會與他們相撞，我們也會想到，意料之外的事情會迫使我們打方向，或騎行者會從自行車上摔下來，慢跑者會滑倒在路上。”

?

要回答這些問題并非易事。弗吉尼亞州交通研究委員會科學家諾亞·古道爾(Noah Goodall)在一封電子郵件中寫道，“要真正確保行人安全，人行道上有行人時自動駕駛汽車車速應當非常低，萬一行人走到機動車道上呢。”

?

人類駕駛員可以通過直覺回答各種倫理問題，對于人工智能來說這可不是個簡單問題。自動駕駛汽車編程人員必須針對每種情況制定明確規則，或依靠通用駕駛規則解決問題。

?

拉萬寫道，“一方面，控制自動駕駛汽車的算法可能有一套明確規則作出倫理權衡；另一方面，自動駕駛汽車在傷害無可避免的情況下作出的決策，可能來自多個軟件元素的相互作用，沒有軟件元素專門負責處理倫理決策。”

?

Business Insider表示，即使編程人員選擇保持模糊，在有些情況下或總體而言，自動駕駛汽車行為模式還是有跡可尋的。

?

艾倫人工智能學會首席執行官奧倫·埃齊奧尼(Oren Etzioni)在一封電子郵件中寫道，“用著名神學家哈維·考克斯(Harvey Cox)的話說：沒有選擇就是一種選擇。”

自動駕駛汽車公司如何處理這些倫理問題呢？在許多情況下，它們都嘗試回避這些問題。

?

雖然電車難題引起大量關注，但自動駕駛汽車產業基本上拒絕發表自己的看法或對此不屑一顧。戴姆勒一名高管今年秋季向《Car and Driver》表示，梅賽德斯-奔馳自動駕駛汽車會不惜一切代價保護乘客安全。戴姆勒隨后否認了這一說法，稱“很顯然的是，編程人員或自動駕駛系統都沒有資格決定人生命的價值”。戴姆勒還表示，電車難題不是一個真正的問題，因為公司“致力于通過實施能防范風險的行駛策略，完全避免兩難情況的出現”。

?

當然，倫理學家會指出，有些風險是無可避免的，例如，剎車失靈，其他司機、騎行者、行人和動物做出突然和不可預測的行為，因此，認為汽車必須做出艱難的抉擇并非矯情。

?

對于戴姆勒有關所有生命都是平等的說法，我們可以認為，這意味著它沒有明確認為哪個人群更有價值。

?

在自動駕駛汽車如何應對交通事故方面，谷歌披露了比其他公司更多細節。

?

2014年，谷歌X部門創始人塞巴斯蒂安·特倫(Sebastian Thrun)表示，公司的自動駕駛汽車會選擇與兩個物體中較小的一個相撞，“如果交通事故無可避免，它將撞向較小的物體”。

?

谷歌2014年的一項與橫向車道定位有關的專利也遵循相似的邏輯，描述自動駕駛汽車應當遠離一個車道上的卡車，更靠近另外一個車道上的轎車，因為與較小的物體相撞更安全。

?

當然，與較小的物體相撞是一個倫理抉擇：這樣的選擇保護了乘客的利益，使他們蒙受的傷害最小化。這也會被認為將危險轉嫁給行人或小型汽車的乘客。正如加州州立理工大學哲學教授帕特里克·林(Patrick Lin)在一封電子郵件中指出的那樣，“較小的物體可能是嬰兒推車或小孩子呢。”

?

2016年3月，時任谷歌自動駕駛汽車團隊負責人克里斯·厄姆森(Chris Urmson)向《洛杉磯時報》描述了更“世故”的規則：“我們的自動駕駛汽車將極力避免撞向沒有任何保護措施的道路使用人：騎行者和行人，它們也會避免撞向活動的物體。”

?

與撞向較小的物體相比，這一方法更注重實用，盡力保護在事故中可能受傷害最重的人群。當然，它也可能不太受到自動駕駛汽車買主的青睞，他們肯定希望自己購買的汽車不惜任何代價地保護自己安全。

?

應當如何處理自動駕駛汽車倫理問題？業界至少達成一個共識：這一問題需要進行更多討論。

?

美國國家公路交通安全管理局9月發表報告稱，“廠商和其他機構，在與監管機構和其他利益相關方(例如司機、乘客和容易受到傷害的道路使用人)合作處理這些情況，確保這類倫理判斷和決策是有意識地作出的。”

?

非盈利消費者權益保護機構Consumer Watchdog高管韋恩·辛普森(Wayne Simpson)也同意這一觀點。在提交給美國國家公路交通安全管理局的證詞中，他表示，“公眾有權利知道，當自動駕駛汽車在街道上行駛時，它優先保護乘客、司機還是行人的安全，以及它考慮哪些因素。如果這些問題不能得到解決，企業在設計汽車時會限制它們自己的責任，而非遵守社會習俗、倫理習慣或相關法律法規。”

?

自動駕駛汽車產業似乎“從善如流”。蘋果——一家知名自動駕駛汽車公司，表示將進行“深思熟慮的探索，吸收業界領袖、消費者、聯邦機構和其他專家的反饋”。

?

福特表達了相同的觀點，稱它已經“在與數家知名大學和業界伙伴合作”，解決自動駕駛汽車倫理問題。

?

同時，福特也對過度的哲學思維提出警告。福特汽車安全全球主管韋恩·巴赫爾(Wayne Bahr)稱，“我們在試圖從專業角度解決這一問題，避免陷入不切實際的假設中不能自拔。在有關自動駕駛汽車倫理的討論中，一個常見問題是，自動駕駛汽車能力的基礎性假設是錯誤的。例如，質疑一個人生命價值高于其他人的問題，都假設自動駕駛汽車能夠辨別哪個人具有更高價值。”

?

Business Insider稱，巴赫爾的評論提及其他版本的電車難題：選擇殺死哪個人時考慮其年齡、法律地位、社會價值等因素。短期內，自動駕駛汽車不可能具備根據這些因素把人分為三六九等的能力。

從長期來看，最符合倫理的決策是使道路上行駛的汽車大多數成為自動駕駛汽車。畢竟，自動駕駛汽車遠比人類司機安全得多，預計它們可以把交通事故減少90%。

?

但是，自動駕駛汽車的普及要求良法，避免可能觸發爭論和訴訟的失誤。換句話說，它要求倫理標準。

?

拉萬及其同事阿齊姆·謝里夫(Azim Shariff)、珍-弗蘭·博納豐(Jean-Fran?ois Bonnefon)在《紐約時報》上撰文稱，“自動駕駛汽車越早普及，在交通事故中喪生的人就越少。但是，要使人們從駕駛汽車中解放出來，認真解決自動駕駛汽車的心理和技術挑戰將是必要的。”