機(jī)器人傷人事件：沒(méi)有意識(shí)的它只是人類(lèi)操控下的傀儡

上周，2016年底十八屆深圳高交會(huì)（中國(guó)國(guó)際高新技術(shù)成果交易會(huì)）突發(fā)一起傷人事件，傷人者是一臺(tái)名叫“小胖”的機(jī)器人。一時(shí)間，“機(jī)器人三定律”又被拎了出來(lái)。

為了避免機(jī)器人傷害人類(lèi)，1942年，美國(guó)著名科幻小說(shuō)家阿西莫夫在作品《我，機(jī)器人》中提出了“機(jī)器人三定律”，被稱(chēng)為“現(xiàn)代機(jī)器人學(xué)的基石”：

第一法則：機(jī)器人不得傷害人類(lèi)，或坐視人類(lèi)受到傷害；

第二法則：除非違背第一法則，機(jī)器人必須服從人類(lèi)的命令；

第三法則：在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己。

后來(lái)，阿西莫夫加入了一條新定律：

第零定律：機(jī)器人不得傷害人類(lèi)整體，或因不作為使人類(lèi)整體受到傷害。

對(duì)于提出的三定律，阿西莫夫本人曾經(jīng)無(wú)不自豪的說(shuō)過(guò)：“三定律是理性人類(lèi)對(duì)待機(jī)器人（或者任何別的東西）的唯一方式。 ”不過(guò)，隨著時(shí)間的推移以及人工智能的發(fā)展，“機(jī)器人三定律”的適用性逐漸發(fā)生了變化。

機(jī)器人三定律的幾點(diǎn)疑惑

首先，機(jī)器人如何分辨“人”和“機(jī)器人”？ 一般來(lái)講，機(jī)器人主要通過(guò)傳感器和計(jì)算機(jī)視覺(jué)來(lái)感知人類(lèi)，但是仿生機(jī)器人、人造皮膚等進(jìn)一步將人類(lèi)與機(jī)器人的區(qū)別模糊化。目前，人類(lèi)通過(guò)肢體和語(yǔ)言來(lái)分辨機(jī)器人，但這兩者在未來(lái)肯定是會(huì)進(jìn)行優(yōu)化的，屆時(shí)，連人類(lèi)都區(qū)分不了的情形下，又怎么要求機(jī)器人能夠準(zhǔn)確分辨？

其次，在機(jī)器人這里，什么才叫做“傷害”？ 通常來(lái)講，傷害分為生理傷害以及心理傷害。比如甲方對(duì)乙方惡言相向，這時(shí)候機(jī)器人該上前阻止嗎？或者說(shuō)人類(lèi)失戀酗酒，對(duì)于這種“自殘”行為，機(jī)器人是選擇“坐視人類(lèi)受到傷害”還是上前奪下酒杯？所以，對(duì)于“傷害”一詞的模糊定義，也給機(jī)器人的命令執(zhí)行造成了一定的阻礙。

另外，對(duì)于阿西莫夫所增加的“第零定律”中的“整體”一詞，這是指?jìng)€(gè)人的整體還是人類(lèi)種群的整體？ 若是個(gè)人，那是不是人類(lèi)就不能截肢了？畢竟機(jī)器人要確?！罢w”。若指的是群體，當(dāng)自動(dòng)駕駛汽車(chē)撞向行人之時(shí)，人工智能系統(tǒng)又該怎么做？

除了語(yǔ)義，在邏輯上，如果按照阿西莫夫定律，那么“機(jī)器人傷害人類(lèi)”就是一個(gè)“無(wú)解”的問(wèn)題 。舉個(gè)例子，當(dāng)劫匪實(shí)施搶劫之時(shí)，按照定律，哪怕受害人下了殺死劫匪的命令，機(jī)器人依然要在不傷害劫匪的前提下保護(hù)受害人，如此一來(lái)，機(jī)器人唯有擋在受害人面前接受劫匪的傷害，但是這就違背了第三定律，如此一來(lái)，三定律之間本就是相互矛盾的。此外，若是劫匪綁架了人質(zhì)要求銀行交出錢(qián)財(cái)，機(jī)器人是該為了個(gè)人的“整體”而交出錢(qián)財(cái)，還是為了群體的“整體”而殺死劫匪和人質(zhì)？其實(shí)，不管是哪種做法，現(xiàn)實(shí)中的機(jī)器人終會(huì)違背機(jī)器人三定律，就如上文所講，如果按照阿西莫夫三定律行事，機(jī)器人只會(huì)陷入無(wú)限的糾結(jié)之中。

所謂的“機(jī)器人殺手”多只是人類(lèi)的“傀儡”

事實(shí)上，不管機(jī)器人三定律怎么說(shuō)，或是人類(lèi)怎么執(zhí)行，人們口中所講的“機(jī)器人殺手”都顯得有點(diǎn)名不符實(shí)，這只是人類(lèi)對(duì)其一種淺顯的定義。

機(jī)器人并不具備“自主意識(shí)”

鑒于深度學(xué)習(xí)算法的強(qiáng)大，作為機(jī)器人的一些附屬技術(shù)，語(yǔ)音識(shí)別、圖像識(shí)別等技術(shù)愈發(fā)精進(jìn)，再過(guò)個(gè)幾年，其性能更是能與人類(lèi)一較高下。

以語(yǔ)音識(shí)別為例，其最主要的用處在于人機(jī)語(yǔ)音交互。目前，人工智能的語(yǔ)音識(shí)別技術(shù)已經(jīng)相當(dāng)成熟了，不過(guò)，這還只是語(yǔ)音交互的第一步而已。此前，在一場(chǎng)針對(duì)自然語(yǔ)言處理的圖靈測(cè)試中，聊天機(jī)器人可謂全軍覆沒(méi)，而造成這種現(xiàn)象的關(guān)鍵因素就在于深度學(xué)習(xí)算法的不足。

深度學(xué)習(xí)算法是人造神經(jīng)網(wǎng)絡(luò)的主干之一，而人造神經(jīng)網(wǎng)絡(luò)是機(jī)器人能夠“自學(xué)”、有“自主意識(shí)”的所要解決的最大難題。看當(dāng)前的人機(jī)語(yǔ)音交互的缺陷，顯然人造網(wǎng)絡(luò)神經(jīng)的發(fā)展還不足以支撐“自主意識(shí)”機(jī)器人的研制。如此一來(lái)，在人造神經(jīng)網(wǎng)絡(luò)不完善、機(jī)器人沒(méi)有“自主意識(shí)”，甚至連“意識(shí)”這一詞匯都沒(méi)有具體定義的情形下，機(jī)器人又怎知何為“傷害人類(lèi)”？又如何稱(chēng)得上“機(jī)器人殺手”？只是一種略微夸大的稱(chēng)呼罷了。

“機(jī)器人殺手”的背后都是人類(lèi)

縱觀如今現(xiàn)世的機(jī)器人，論意識(shí)的話，也只有堪堪的幾家團(tuán)隊(duì)的機(jī)器人具備了一些基本的意識(shí)，并不具備成為“機(jī)器人殺手”的資格。此前，美國(guó)達(dá)拉斯市警方使用一臺(tái)機(jī)器人引爆炸彈，從而殺死嫌疑犯，由于是第一次在戰(zhàn)場(chǎng)之外造成傷亡，這件事在當(dāng)時(shí)引起了全世界的轟動(dòng)。

此次事件后，“機(jī)器人殺手”相關(guān)論言被頂上了輿論的高峰。然而，當(dāng)很多人將關(guān)注點(diǎn)放在“機(jī)器人殺人”上面時(shí)，他們都忽略了一個(gè)事實(shí)——是人類(lèi)操控著機(jī)器人引爆了炸彈，是人類(lèi)操控著機(jī)器人殺死了嫌疑犯。除此以外，這些年來(lái)，機(jī)器人越來(lái)越多的被投放于戰(zhàn)場(chǎng)，像無(wú)人機(jī)、裝載殺傷力武器的機(jī)器人戰(zhàn)車(chē)等等，它們的行動(dòng)依據(jù)是什么？是人類(lèi)提前放入的地圖，以及設(shè)定的程序，而在行動(dòng)過(guò)程中，這些機(jī)器人還將受到人類(lèi)的指揮。

以此來(lái)看，在不具備“自主意識(shí)”的前提下，作為人類(lèi)教導(dǎo)、訓(xùn)練出來(lái)的產(chǎn)物，人們口中的“機(jī)器人殺手”充其量也只是人類(lèi)手中的“傀儡”。而在阿西莫夫“機(jī)器人三定定律”中，與其將問(wèn)題拋給不具備“自主意識(shí)”的機(jī)器人，不如說(shuō)是將問(wèn)題拋給了其被背后的人類(lèi)操控者。

結(jié)語(yǔ)

從系統(tǒng)中的算法，到所加載的各項(xiàng)人工智能技術(shù)，再到身體構(gòu)造的每一個(gè)細(xì)小零件，機(jī)器人的每絲每毫都是人類(lèi)所賦予的。在一個(gè)機(jī)器人的研制過(guò)程中，研究人員會(huì)將很多知識(shí)、數(shù)據(jù)輸進(jìn)機(jī)器人的“大腦”，在此基礎(chǔ)之上，機(jī)器人擁有了一些基本的“自學(xué)”能力。

既然是“自學(xué)”，就一定會(huì)有一個(gè)“學(xué)習(xí)對(duì)象”，而人類(lèi)就理所當(dāng)然的成為了機(jī)器人的“父母”（“人”生的第一個(gè)啟蒙老師）。這里有一個(gè)典型的案例，今年3月，微軟在Twitter上推出聊天機(jī)器人Tay，結(jié)果在不到一天的時(shí)間里，Tay就被網(wǎng)友“教”壞了，不僅滿嘴臟話，更是有了種族歧視，鑒于種種劣跡，微軟將其關(guān)了禁閉。從這件事中，我們看到了機(jī)器人“自學(xué)”能力的強(qiáng)大，也看到了人類(lèi)的教導(dǎo)責(zé)任之重。

在未來(lái)，機(jī)器人極有可能會(huì)擁有“自主意識(shí)”，如果不加以正確的指引，“機(jī)器人殺手”不日就會(huì)到來(lái)。由此，為了避免“機(jī)器人殺手”的出現(xiàn)，為了讓機(jī)器人不傷害人類(lèi)，在提升機(jī)器人性能的同時(shí)，人類(lèi)的相關(guān)素質(zhì)是不是也該抓抓緊了。當(dāng)然，我們不能百分百的將希望寄托于人性，所以加強(qiáng)網(wǎng)絡(luò)安全也成了必然，以此避免機(jī)器人落入不法分子手中，或是在機(jī)器人中設(shè)定特定程序，能夠在最佳時(shí)機(jī)一鍵停止機(jī)器人的所有機(jī)能。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。