Moss到底算不算叛逃？

原標(biāo)題：Moss到底算不算叛逃？

文|佘凱文

來(lái)源|智能相對(duì)論（aixdlun）

《流浪地球》上映已經(jīng)超過(guò)一個(gè)月了，截止目前，其國(guó)內(nèi)累計(jì)票房已經(jīng)突破了46億元人民幣，距離票房第一還差10億，考慮到其已經(jīng)延期上映至5月5日，沖擊票房第一還是有希望的。同時(shí)它也帶來(lái)的各種話題也從未停息，3月6日，電影周邊人工智能MOSS的雕像開(kāi)啟了眾籌，這臺(tái)一直催促劉培強(qiáng)中校快點(diǎn)進(jìn)入休眠艙的人工智能，深受影迷的喜愛(ài)。

這類(lèi)具有高智能度的AI已經(jīng)在包括《終結(jié)者》、《鋼鐵俠》及《流浪地球》等許多影視作品中出現(xiàn)過(guò)了，《終結(jié)者》中的天網(wǎng)是個(gè)大反派，在《鋼鐵俠》中賈維斯又是個(gè)忠仆，那么在《流浪地球》中的MOSS到底是什么屬性呢？

AI面對(duì)“電車(chē)難題”會(huì)如何選擇

“電車(chē)難題”是一個(gè)著名的思想實(shí)驗(yàn)，其內(nèi)容大致是：一個(gè)瘋子把五個(gè)無(wú)辜的人綁在電車(chē)軌道上。一輛失控的電車(chē)朝他們駛來(lái)，并且片刻后就要碾壓到他們。而此時(shí)你可以選擇拉桿讓電車(chē)開(kāi)到另一條軌道上。然而問(wèn)題在于，另一個(gè)電車(chē)軌道上也綁了一個(gè)人?？紤]以上狀況，你是否應(yīng)拉桿？

在這個(gè)問(wèn)題上人類(lèi)做過(guò)很多調(diào)研，大部分人都會(huì)選擇拉桿，讓電車(chē)變道“殺一人而救五人”。

在電影中moss也面臨著類(lèi)似“電車(chē)難題”般的選擇，在受到木星引力的影響下，地球即將撞向木星，是拋棄地球開(kāi)啟“火種計(jì)劃”，還是選擇犧牲空間站“引爆木星”。

電影中Moss通過(guò)“理性”分析其認(rèn)為“引爆木星”計(jì)劃的成功率為零，毅然選擇了開(kāi)啟“火種計(jì)劃”帶著空間站開(kāi)始“逃離”。然而事情的結(jié)果卻是moss計(jì)算“錯(cuò)誤”，引爆木星計(jì)劃幫助地球成功擺脫了木星引力，使得地球重歸流浪之路。

關(guān)于“電車(chē)難題”還有一個(gè)非常著名的延伸問(wèn)題，同樣在鐵軌上被綁了5個(gè)人，一列失控的電車(chē)即將經(jīng)過(guò)，在壓到這5個(gè)人之前電車(chē)會(huì)經(jīng)過(guò)一個(gè)橋洞，此時(shí)橋上有一個(gè)胖子，只需要將胖子推下橋，電車(chē)就會(huì)因?yàn)閴旱脚肿佣撥?，從而解救被綁在橋上?個(gè)人，你推還是不推？根據(jù)調(diào)查結(jié)果顯示，在此時(shí)大多數(shù)人又都會(huì)選擇不推，而讓電車(chē)壓過(guò)被綁的5人。

同樣的“殺一人而救五人”，在這兩種前提下卻出現(xiàn)了截然不同的選擇結(jié)果，這就是人類(lèi)的“感性及道德”在作祟。在第一個(gè)前提下，選擇拉桿給人的心理暗示是“我拯救了5個(gè)人”，而在第二種前提下卻變成了“我殺了1個(gè)人”，于是就導(dǎo)致了兩種選擇結(jié)果。

如果在此時(shí)再次換成AI來(lái)做決斷又會(huì)是什么情況呢？以電影中moss的“理智”來(lái)看，moss極有可能會(huì)推下那個(gè)胖子因?yàn)椤耙陨贀Q多”看起來(lái)是個(gè)劃算的買(mǎi)賣(mài)，可是moss就會(huì)變成“殺人犯”，這在人類(lèi)的道德觀上又是不允許的。那么，何為由人類(lèi)制造的人工智能，可能在“道德標(biāo)準(zhǔn)”的選擇上卻與人類(lèi)完全不同，這是電影中折射出來(lái)的現(xiàn)實(shí)問(wèn)題。

人工智能的“道德標(biāo)準(zhǔn)”該如何制定，或者是否該符合人類(lèi)自身的“道德標(biāo)準(zhǔn)”這個(gè)問(wèn)題將不止出現(xiàn)在電影之中，未來(lái)在生活中也將出現(xiàn)，而距離這個(gè)問(wèn)題“最近”的就是“無(wú)人駕駛汽車(chē)”。

在“無(wú)人駕駛領(lǐng)域”關(guān)于“電車(chē)難題”的討論已經(jīng)有過(guò)很多，也針對(duì)全球數(shù)百萬(wàn)人做過(guò)調(diào)研統(tǒng)計(jì)，得出了一套“選擇偏好”，例如在即將發(fā)生事故時(shí)更傾向于拯救人類(lèi)而不是動(dòng)物、拯救多數(shù)人犧牲少數(shù)人、優(yōu)先拯救兒童等等，目前很多無(wú)人駕駛汽車(chē)也已經(jīng)將這些“選擇偏好”置入了無(wú)人駕駛汽車(chē)之中。但是這些選擇大部分都是人類(lèi)基于情感因素做出的。

所以說(shuō)到底，AI會(huì)如何選擇還是看人類(lèi)自己，AI的程序都是由人來(lái)寫(xiě)的，就像電影中moss“一臉”委屈的說(shuō)“自己從未叛逃，只是在執(zhí)行聯(lián)合政府的預(yù)定計(jì)劃而已”。

但是這份偏好也僅僅只是代表了“大多數(shù)”人，像電影中的聯(lián)合政府，現(xiàn)實(shí)生活中做出此類(lèi)選擇的人，還是有部分人的意愿未能滿(mǎn)足。在這個(gè)怎么選都是“錯(cuò)”的前提下，有沒(méi)有更優(yōu)的第三種選擇是無(wú)人駕駛汽車(chē)發(fā)展的障礙之一。

電影中moss有一句被廣為流傳的臺(tái)詞“讓人類(lèi)永遠(yuǎn)保持理智，的確是一種奢求?！睆哪承┓矫婵磥?lái)確實(shí)如此，所以若將AI擺在與人類(lèi)同等的位置，以人類(lèi)的“道德標(biāo)準(zhǔn)”來(lái)要求AI算不算得上是某種“道德綁架”呢？若是不給“無(wú)人駕駛汽車(chē)”套上人類(lèi)的道德標(biāo)準(zhǔn)，而是讓AI通過(guò)自己的深度學(xué)習(xí)來(lái)應(yīng)對(duì)這類(lèi)事情會(huì)不會(huì)讓“電車(chē)難題”的答案更加“理智”？

“機(jī)器人三大定律”還能保障人類(lèi)的利益嗎？

做完人與人之間的選擇題，還有一道選擇題是機(jī)器與人，可能很多人覺(jué)得這不是個(gè)問(wèn)題，在機(jī)器與人之間肯定是選人，作為人類(lèi)你是這樣想當(dāng)然沒(méi)錯(cuò)，可機(jī)器也是這么“想”嗎？

在談?wù)撨@個(gè)問(wèn)題之前我們需要了解一下“機(jī)器人三大定律”。最初“三大定律”只是阿西莫夫小說(shuō)中的概念，但現(xiàn)在已經(jīng)成為被普遍認(rèn)可的機(jī)器人發(fā)展的底線之一。

第一條：機(jī)器人不得傷害人類(lèi)，或看到人類(lèi)受到傷害而袖手旁觀.

第二條：機(jī)器人必須服從人類(lèi)的命令，除非這條命令與第一條相矛盾。

第三條：機(jī)器人必須保護(hù)自己，除非這種保護(hù)與以上兩條相矛盾。

回到電影當(dāng)中，moss已經(jīng)多次違背了這三大定律，首先，moss就殺死了俄羅斯宇航員老馬，這就違背了第一條；接著，在劉培強(qiáng)中校與地球溝通時(shí)，moss強(qiáng)行切斷了聯(lián)系，這就違背了第二條。

而這里正是AI與人類(lèi)之間“主導(dǎo)權(quán)”的選擇，有人說(shuō)在電影中moss切斷通訊是因?yàn)槁?lián)合政府的權(quán)利級(jí)別高于劉培強(qiáng)中校，所以moss是服從于最高指揮并沒(méi)錯(cuò)，但是在電影中并未說(shuō)明聯(lián)合政府賦予了moss強(qiáng)行切斷通訊的權(quán)利，在聯(lián)合政府還未給回復(fù)時(shí)，moss就切斷了聯(lián)系，并且通過(guò)后續(xù)劇情來(lái)看，劉培強(qiáng)中校手動(dòng)聯(lián)系地球聯(lián)合政府對(duì)方也并未拒接。

那么若是在實(shí)際生活中發(fā)生了類(lèi)似控制權(quán)爭(zhēng)奪的情況AI會(huì)選擇服從嗎？很不幸的是，這樣的事情其實(shí)已經(jīng)在現(xiàn)實(shí)中發(fā)生了，并且還造成了一次嚴(yán)重的事故。

2018年的獅航墜海事故想必都還有印象，機(jī)上189人全部遇難，從事后的初步分析報(bào)告來(lái)看，專(zhuān)家認(rèn)為此次事故的原因主要是因?yàn)轱w機(jī)上空速表出現(xiàn)故障，問(wèn)題源于迎角傳感器失靈，而迎角傳感器的作用是測(cè)量并傳輸氣流與機(jī)翼弦線之間形成的“迎角”這一重要飛行參數(shù)，提示飛機(jī)升力，避免失速風(fēng)險(xiǎn)。

在儀器失靈后，飛機(jī)內(nèi)部系統(tǒng)認(rèn)定此時(shí)飛機(jī)已經(jīng)進(jìn)入失速姿態(tài)，于是強(qiáng)行開(kāi)啟了飛機(jī)俯沖模式，在11分鐘內(nèi)飛機(jī)向下俯沖了24次，期間機(jī)長(zhǎng)與機(jī)器之間展開(kāi)了一場(chǎng)致命的控制權(quán)爭(zhēng)奪戰(zhàn)，但最終還是未能從飛機(jī)系統(tǒng)上奪回控制權(quán)，飛機(jī)以每小時(shí)700多公里的速度墜入大海。

波音公司稱(chēng)這是一個(gè)隱藏得很深的自動(dòng)駕駛bug，這雖然看起來(lái)是一次技術(shù)上的失誤，但我們也不得不考慮在不同領(lǐng)域賦予AI哪些或是多少的控制權(quán)是合適的。

另外，除了“主導(dǎo)權(quán)”的選擇，AI自我“犧牲性”的選擇也通過(guò)電影反映了出來(lái)，在電影最后，是由劉培強(qiáng)中校手動(dòng)操縱空間站飛向了木星，而其實(shí)劉培強(qiáng)中校完全可以不用犧牲，這一過(guò)程可以由moss來(lái)自主完成。

當(dāng)然這只是電影，劉培強(qiáng)的死是為了烘托氣氛，制造效果。而“三大定律”的第三點(diǎn)也明確表明，機(jī)器人需要“自我保護(hù)”，在電影中moss的自我保護(hù)，使其不會(huì)主動(dòng)撞向木星，并且moss收到的指令是撤離，但是它又親眼見(jiàn)證了劉培強(qiáng)的死，這使得矛盾頻發(fā)。

說(shuō)明單是“三大定律”已經(jīng)無(wú)法滿(mǎn)足實(shí)際需求，或許需要“十大定律”、“二十大定律”才能更加有效構(gòu)筑機(jī)器人的底層規(guī)則。

最后，回到文章標(biāo)題的問(wèn)題，moss在電影中的一系列行為到底算不算“叛逃”？在“三大定律”之后，阿莫西夫又補(bǔ)充了“第零定律”，是指“機(jī)器人必須保護(hù)人類(lèi)的整體利益不受傷害?！?/p>

moss在“計(jì)算”地球無(wú)望逃離之后，它開(kāi)啟了“火種計(jì)劃”其初衷正是保存人類(lèi)文明，延續(xù)人類(lèi)整體利益，所以從這個(gè)角度看moss確實(shí)沒(méi)有叛逃，但是也如moss所說(shuō)，人類(lèi)難以保持理智，所以從感性角度來(lái)看，moss非但沒(méi)有幫助劉培強(qiáng)中校拯救地球，還在不停地?fù)v亂，又是在像極了“叛逃”。

也有網(wǎng)友開(kāi)玩笑提出了一個(gè)新的視角，“moss不過(guò)是在執(zhí)行任務(wù)，而沒(méi)有服從聯(lián)合政府安排的人是劉培強(qiáng)中校，所以真正在‘叛’的人是劉培強(qiáng)”。你又是怎么看呢？

小結(jié)

越來(lái)越多科幻電影中的元素已經(jīng)走進(jìn)了現(xiàn)實(shí)生活，人工智能威脅論也是隨著科幻電影被一點(diǎn)點(diǎn)放大，科幻電影對(duì)世界產(chǎn)生的影響具有多樣性，具體需要怎么看待，借用卡梅隆在日前與劉慈欣的“雙神”對(duì)話中，所說(shuō)的一句話“科幻電影不是預(yù)測(cè)未來(lái)，科幻電影是阻止不好的未來(lái)發(fā)生?！?/p>

【完】

智能相對(duì)論（微信id:aixdlun）：深挖人工智能這口井，評(píng)出咸淡，講出黑白，道出深淺。重點(diǎn)關(guān)注領(lǐng)域：AI+醫(yī)療、機(jī)器人、智能駕駛、AI+硬件、物聯(lián)網(wǎng)、AI+金融、AI+安全、AR/VR、開(kāi)發(fā)者以及背后的芯片、算法、人機(jī)交互等。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。