圖片來(lái)自“123rf.com.cn”

每個(gè)人都曾想擁有自己的自動(dòng)駕駛汽車(chē)，但自動(dòng)駕駛汽車(chē)并不完美。首先需要肯定一點(diǎn)，自動(dòng)駕駛汽車(chē)仍然需要像你和我一樣做出決定，而這樣的結(jié)果是它們并沒(méi)有完全消除碰撞的可能性，從某一個(gè)角度來(lái)看，自動(dòng)駕駛汽車(chē)只是減少它發(fā)生的可能性而已，越來(lái)越多在自動(dòng)駕駛模式下的汽車(chē)發(fā)生事故的報(bào)告能說(shuō)明這點(diǎn)。

諸多的自動(dòng)駕駛汽車(chē)事故報(bào)告可以表明，自動(dòng)駕駛汽車(chē)不會(huì)主動(dòng)去碰撞行人（殺人），而是選擇被動(dòng)情況下不得不碰撞行人（被動(dòng)殺人），汽車(chē)不會(huì)故意殺人，但如果發(fā)生碰撞，自動(dòng)駕駛系統(tǒng)中會(huì)有相關(guān)機(jī)制告知自動(dòng)駕駛汽車(chē)不能做什么。如果讓自動(dòng)駕駛汽車(chē)選擇在兩個(gè)不同的人群之間碰撞，那么選擇不殺死一個(gè)人對(duì)另一個(gè)人來(lái)說(shuō)則是致命的，這反映的一個(gè)問(wèn)題就是自動(dòng)駕駛汽車(chē)的優(yōu)先項(xiàng)和他的“價(jià)值觀”，這是自動(dòng)駕駛機(jī)制編程人員的一個(gè)基本考慮因素，因?yàn)樗麄儧Q定計(jì)算機(jī)的功能，以及汽車(chē)在各種復(fù)雜工況中的行動(dòng)方式。那么是誰(shuí)，通過(guò)什么方式以什么形式確定的優(yōu)先項(xiàng)和機(jī)器的“價(jià)值觀”呢？

如果你在Netflix上觀看了Circle（2015），你就會(huì)知道它是怎么回事！這部劇能讓我們思考人類(lèi)的未來(lái)，以及我們每天做出決定對(duì)別人的影響 -每個(gè)人都要拼命“活在當(dāng)下”，證明他們的價(jià)值。電影的前提很簡(jiǎn)單：影片講述被俘虜?shù)娜耍鎸?duì)即將到來(lái)的處決，五十個(gè)陌生人被迫從中選擇一個(gè)值得存活下去的人的故事。Circle是一部關(guān)于人性的電影，當(dāng)我們被迫在最壞的情況下做出決定時(shí)，我們?nèi)绾卧u(píng)價(jià)彼此以及人們?nèi)绾畏磻?yīng)。這部電影講述了什么使我們成為人類(lèi)的核心——我們是誰(shuí)，我們相信什么，以及最終，我們將會(huì)花費(fèi)多少時(shí)間去拯救我們自己 ，但是自動(dòng)駕駛汽車(chē)似乎沒(méi)有這么多人性和道德的考量！

道德選擇并不通用

你認(rèn)為正確的道德選擇很可能與你周?chē)娜讼氲耐耆灰粯?。因?yàn)榈赖率侵饔^的，而 每個(gè)人的價(jià)值觀都不同。無(wú)論你喜歡與否，我們都必須承認(rèn)的一點(diǎn)是我們的選擇都是缺陷的：我們根據(jù)我們過(guò)去的經(jīng)驗(yàn)和預(yù)判及偏見(jiàn)來(lái)做出決定， 關(guān)于你是否應(yīng)該在事故中拯救A或B也很難辯論，因?yàn)槟愀鶕?jù)你已經(jīng)制定的一些抽象標(biāo)準(zhǔn)以及社會(huì)接受的東西判斷一個(gè)人的價(jià)值。 什么是好人的標(biāo)準(zhǔn)在哪里？ 因此，除了通用道德之外，人們普遍認(rèn)為“對(duì)社會(huì)更重要”是評(píng)價(jià)的標(biāo)準(zhǔn)之一。醫(yī)生，孕婦和孩子是更值得關(guān)注的人，即使在泰坦尼克號(hào)上，婦女和兒童也是第一批登上安全船的人，這種道德選擇已經(jīng)深入人心。

看著不同的人做不同的選擇是一件很有意思的事情。做選擇能體現(xiàn)人的性格，就像Trolley problem問(wèn)題一樣。電影Circle結(jié)束時(shí)，您可以看到不同房間中的其他組決定誰(shuí)能活下去的結(jié)果，很讓人震驚。如果我們回歸到“生活主題”中：我們應(yīng)該思考我們?cè)撝匾暿裁矗菏侨后w還是個(gè)體？

用戶(hù)（有時(shí)）永遠(yuǎn)是對(duì)的

如果發(fā)生車(chē)禍，而你懷孕的妹妹和她的丈夫正好就在其中，如果你是一名醫(yī)生或隨機(jī)的一名陌生人，大家都不難猜測(cè)，你會(huì)來(lái)救你的妹妹和妹夫。 但是如果車(chē)禍中還有其他隨行乘客呢，為了拯救你的家人，隨行的乘客將不得不死你會(huì)作何選擇。你可能仍然會(huì)救你的妹妹和妹夫，這時(shí)候我意識(shí)到，因?yàn)槿藗儾⒉豢偸窍胍瘸丝?，更多的關(guān)注殺死了多少人和什么類(lèi)型的人。

可以對(duì)汽車(chē)進(jìn)行編程來(lái)實(shí)現(xiàn)“最佳情況”， 這看起來(lái)很容易。但困難的是，沒(méi)有人愿意買(mǎi)一輛在發(fā)生事故時(shí)犧牲乘客的汽車(chē)，這對(duì)企業(yè)來(lái)說(shuō)很糟糕，這對(duì)他們的營(yíng)銷(xiāo)或銷(xiāo)售產(chǎn)品時(shí)帶來(lái)選擇困境，自動(dòng)駕駛汽車(chē)是否應(yīng)該被編程不惜一切代價(jià)來(lái)避免事故？如果懷孕的母親和丈夫違反交通規(guī)則的情況下該如何選擇？就目前來(lái)看仍然沒(méi)有確定的答案。這篇文章的構(gòu)思啟發(fā)源于麻省理工學(xué)院的測(cè)驗(yàn)，讓你在自駕車(chē)的不同場(chǎng)景中選擇行動(dòng)（選擇誰(shuí)不被殺）。 在測(cè)驗(yàn)結(jié)束時(shí)，他們會(huì)為您提供結(jié)果摘要，令人驚訝的是，我的“最佳拯救角色”是一位女醫(yī)生，而我最“被該殺的角色”則是一位老人，我覺(jué)得結(jié)果令我很沮喪，但就其實(shí)際以及我個(gè)人的偏見(jiàn)和經(jīng)驗(yàn)而言，結(jié)果仍然是有道理的。

此外需要注意的是，這并不一定是您處于該情況時(shí)將執(zhí)行的準(zhǔn)確且唯一操作，因?yàn)槔碚撆c實(shí)踐中的一切都有所不同。 如果感興趣可以參與道德測(cè)試：道德機(jī)器 ?- 麻省理工學(xué)院。

性別偏好

當(dāng)您看到結(jié)果時(shí)，您還會(huì)了解到與你一起參加測(cè)試的其他人的結(jié)果。總的來(lái)說(shuō)，人們傾向于挽救女孩而不是男孩。這可以追溯到一些古老的生物學(xué)推理，因?yàn)榕缘闹饕巧欠敝澈蜕?，而這依賴(lài)來(lái)自于對(duì)女性的刻板印象，即女性是“照顧者”并表現(xiàn)出母性行為，這使得殺害她們更加殘忍。

這個(gè)結(jié)果很有趣，因?yàn)榧词巩?dāng)今世界的人仍然很多人認(rèn)為在求助選擇時(shí)候選擇一個(gè)女人而不是一個(gè)男人。雖然這個(gè)小樣本量并不是一個(gè)很具有代表性的統(tǒng)計(jì)數(shù)據(jù)結(jié)果，但確實(shí)提供了一種暗示性的趨勢(shì)。如果你考慮性別角色和過(guò)去的男性?xún)?yōu)勢(shì)，你仍然能夠預(yù)測(cè)到未來(lái)的潛在結(jié)果如何。當(dāng)然我并不知道偏見(jiàn)不會(huì)徹底消除，因?yàn)槲覀兛梢园l(fā)現(xiàn)這種偏見(jiàn)已經(jīng)滲透到了各個(gè)領(lǐng)域！

人類(lèi)>動(dòng)物

人們不僅拯救女孩而不是男孩，而且還會(huì)一次又一次地拯救人類(lèi)超過(guò)動(dòng)物。有一個(gè)物種偏好，僅僅因?yàn)槲覀兪侨祟?lèi)并具有自我保護(hù)的基本本能。如果你與那只動(dòng)物有所屬關(guān)系，比如它是你的寵物，那可能就會(huì)略有不同，這恰恰反映了人自私的本性。

拋棄老人，留下幼童

前面我曾經(jīng)說(shuō)過(guò)，上述實(shí)驗(yàn)中我的“殺死最多的人物”是一位老人，我不知道我是否潛意識(shí)的同意這一點(diǎn)，但我很明確的認(rèn)為老年人有價(jià)值。 無(wú)可否認(rèn)，根據(jù)過(guò)去的經(jīng)驗(yàn)，老一輩人是智慧和知識(shí)的載體。雖然他們可能沒(méi)有以最典型的方式為社會(huì)做出具體貢獻(xiàn)，但誰(shuí)能說(shuō)他們的知識(shí)和/或智慧無(wú)效呢？

 當(dāng)然，時(shí)代變了，幾個(gè)世紀(jì)前的智慧和經(jīng)驗(yàn)并不適用于當(dāng)代社會(huì)。當(dāng)我們做選擇的時(shí)候，我們?nèi)匀豢赡軆A向于拯救這些幼童，因?yàn)樗麄冞€沒(méi)有完整的擁有過(guò)自己的一生，而老年人已經(jīng)體驗(yàn)了他們經(jīng)歷的一切，我知道這就是我所做上述選擇的原因。因?yàn)樵谖宜认碌哪莻€(gè)年輕人很可能是下一個(gè)伊隆馬斯克，很可能會(huì)對(duì)社會(huì)帶來(lái)更多價(jià)值，但從反面來(lái)看，這個(gè)年幼的孩子有可能也是壞人，但這是一個(gè)事實(shí)，無(wú)論你喜不喜歡，其實(shí)我們決定不了這個(gè)幼童的未來(lái)走向，但我們?nèi)匀桓鼉A向于拯救他們。

留下醫(yī)生

在做決定時(shí)，我發(fā)現(xiàn)傾向于拯救醫(yī)生而不是流浪者。我并不是唯一一個(gè)做出這樣選擇的人。我認(rèn)為這不是一種好的思維方式，因?yàn)樯鐣?huì)地位不應(yīng)該是你生還是死的決定因素。

所有國(guó)家都表現(xiàn)出令人不安的選擇偏好，即拯救地位較高的人，例如，高管人數(shù)超過(guò)流浪者，我們也發(fā)現(xiàn)這與一個(gè)國(guó)家的經(jīng)濟(jì)不平等程度密切相關(guān)，在存在更大的不平等的情況下，更傾向于犧牲無(wú)家可歸者。

我們重視醫(yī)生，因?yàn)槲覀冋J(rèn)為他們的工作對(duì)人類(lèi)的生存至關(guān)重要，事實(shí)上確實(shí)如此，不是每個(gè)人都能做到這一點(diǎn)，醫(yī)生需要接受大量的教育才能開(kāi)始就醫(yī)，但是醫(yī)生不是每個(gè)人過(guò)好生活所需的唯一角色，我們不能忽視的一點(diǎn)是，沒(méi)有農(nóng)民，我們照樣不能吃到飯菜，沒(méi)有工程師，就沒(méi)有橋梁和工廠，沒(méi)有教育工作者，你將如何學(xué)習(xí)？

這讓我意識(shí)到測(cè)驗(yàn)本身是有缺陷的，因?yàn)榻o出的關(guān)于不同選擇的信息是有限的，但是缺陷不來(lái)源于測(cè)試，而是源于固有的社會(huì)缺陷和社會(huì)偏見(jiàn)，我們對(duì)一個(gè)人的重視程度是基于他們對(duì)社會(huì)的貢獻(xiàn)嗎？我們的答案很多時(shí)候是肯定的。

如何定義正確和錯(cuò)誤？善與惡？

把這個(gè)問(wèn)題想成“選擇不殺誰(shuí)”是很苛刻的。但這是我們處境的現(xiàn)實(shí)，我們都知道。

那么答案是什么？在發(fā)生事故之前，你只需要踩剎車(chē)...... 哈哈，不 - 我只是在開(kāi)玩笑。雖然這是一種可能性，但制造自動(dòng)駕駛汽車(chē)必須考慮到大量不同的情況，包括你不能踩剎車(chē)而汽車(chē)必須做選擇的情況。關(guān)于自動(dòng)駕駛汽車(chē)殺人的道德決定，這可能是罕見(jiàn)的（或我們希望是），但是不可避免的問(wèn)題， 而這個(gè)問(wèn)題最大的隱患在于沒(méi)有真正的答案。目前來(lái)看沒(méi)有關(guān)于什么是“正確”和什么是“錯(cuò)誤”的機(jī)制，我們每個(gè)人都會(huì)拯救不同的人，那么誰(shuí)的道德規(guī)范適用于自動(dòng)駕駛汽車(chē)？ 這種自動(dòng)駕駛汽車(chē)決定殺人的特殊情況可能不到0.001％，但是風(fēng)險(xiǎn)因素如何分配？

我對(duì)這些問(wèn)題沒(méi)有全部答案，但我希望我們能一起思考。