一名AI研究者的恐懼：人工智能可能讓我遺臭萬(wàn)年

【網(wǎng)易智能訊 8月10日消息】作為一名人工智能研究員，我常常會(huì)想到人類對(duì)人工智能的恐懼。

然而，目前我也很難想象我開(kāi)發(fā)出來(lái)的計(jì)算機(jī)怎么樣才能成為未來(lái)世界的怪物。有時(shí)就會(huì)像奧本海默在帶頭建造世界上第一顆核彈之后哀嘆的那樣，我會(huì)想我是否也會(huì)成為“世界的毀滅者”？

我想，我會(huì)在歷史上留名，但確是臭名昭著。那作為一名人工智能科學(xué)家，我在擔(dān)心什么呢？

對(duì)未知的恐懼

由科幻小說(shuō)作家ArthurClarke設(shè)想并最后由電影導(dǎo)演StanleyKubrick制成的計(jì)算機(jī)HAL9000就是一個(gè)很好的例子。在很多復(fù)雜的系統(tǒng)里，例如泰坦尼克號(hào)、美國(guó)航空航天局的航天飛機(jī)、切爾諾貝利核電站，工程師們把許多不同的組件放在一起。設(shè)計(jì)師們可能非常清楚每個(gè)單獨(dú)的元素是如何工作的，但是當(dāng)這些元素連接在一起時(shí)，他們就無(wú)法知之甚透，就會(huì)產(chǎn)生意外的后果。

所以不能完全了解的系統(tǒng)，往往會(huì)不受控制并出現(xiàn)意外的后果。一艘輪船的沉沒(méi)，兩架航天飛機(jī)的爆炸，遍布?xì)W亞大陸的放射性污染，在每一場(chǎng)災(zāi)難都是一系列小差錯(cuò)導(dǎo)致的大災(zāi)難。

而在我看來(lái)，目前人工智能也落入了同樣的境地之中。我們從認(rèn)知科學(xué)中學(xué)習(xí)最新的研究結(jié)果，然后將其轉(zhuǎn)化為一種程序算法并添加到現(xiàn)有的系統(tǒng)中。我們?cè)谶€不了解智能認(rèn)知的情況下，便開(kāi)始對(duì)人工智能進(jìn)行改造。

例如IBM的沃森和谷歌的Alpha系統(tǒng)，我們將強(qiáng)大的計(jì)算機(jī)能力和人造神經(jīng)系統(tǒng)結(jié)合在一起，幫助他們?nèi)〉昧艘幌盗辛钊梭@嘆的成就。如果這些機(jī)器出了差錯(cuò)，可能出現(xiàn)的結(jié)果是沃森不會(huì)喊“危險(xiǎn)”了或者Alpha不能打敗圍棋大師了，但是這些錯(cuò)誤都不是致命的。

然而，隨著人工智能的設(shè)計(jì)變得更加復(fù)雜，電腦處理器變得更快，它們的技能也會(huì)得到提升。出現(xiàn)意外的風(fēng)險(xiǎn)也在增加，我們的責(zé)任也更重。我們經(jīng)常說(shuō)“人無(wú)完人”，那么我們創(chuàng)造的系統(tǒng)也肯定存在缺陷。

對(duì)濫用的恐懼

目前我正在應(yīng)用“神經(jīng)進(jìn)化法”來(lái)開(kāi)發(fā)人工智能，在可能引發(fā)的意外后果這一方面，我并不十分擔(dān)心。我創(chuàng)造虛擬環(huán)境，開(kāi)發(fā)數(shù)字生物從而使他們的大腦可以解決日益復(fù)雜的任務(wù)。我們會(huì)評(píng)估這些智能生物的表現(xiàn)，表現(xiàn)最好的會(huì)被挑選出來(lái)再次生產(chǎn)并研發(fā)下一代。這樣，經(jīng)過(guò)幾代的進(jìn)化，這些機(jī)器生物已經(jīng)逐漸演變出了認(rèn)知能力。

現(xiàn)在，我們正在給這些機(jī)器生物設(shè)定一些非常簡(jiǎn)但的任務(wù)，比如他們可以做簡(jiǎn)單的導(dǎo)航任務(wù)，做一些簡(jiǎn)單的決定等，但很快我們就會(huì)設(shè)計(jì)出能夠執(zhí)行更復(fù)雜任務(wù)更智能的機(jī)器，最終，我們希望可以達(dá)到人類的智力水平。

在這個(gè)過(guò)程中，我們會(huì)發(fā)現(xiàn)問(wèn)題并解決問(wèn)題。每一代機(jī)器都能更好地處理前幾代機(jī)器曾經(jīng)出現(xiàn)的問(wèn)題。這幫助我們可以減少在未來(lái)他們真正進(jìn)入世界時(shí)出現(xiàn)意外結(jié)果的概率。

此外，這種"代代相傳“的改良方法還可以幫助我們發(fā)展人工智能的倫理道德。最終我們想要演變出是有可信賴性及利他主義這樣人類道德的人工智能。我們可以設(shè)置一個(gè)虛擬環(huán)境，給那些表現(xiàn)出友善、誠(chéng)實(shí)和同理心的機(jī)器獎(jiǎng)勵(lì)。可能這也是一種確保我們研發(fā)的是更聽(tīng)話的仆人或值得信賴的伙伴的方法。同時(shí)也可以減少出現(xiàn)冷酷殺手機(jī)器人的幾率。

雖然這種“神經(jīng)進(jìn)化法”可能降低出現(xiàn)不可控結(jié)果的可能性，但它并不能防止濫用。但這是一個(gè)道德問(wèn)題，而不是科學(xué)問(wèn)題。作為一名科學(xué)家，我有說(shuō)出真相的義務(wù)，我需要報(bào)告我在實(shí)驗(yàn)中發(fā)現(xiàn)的東西，不管這種結(jié)果我想不想說(shuō)。我的重點(diǎn)不是決定我想要什么，而是將結(jié)果展示出來(lái)。

對(duì)社會(huì)掌權(quán)者的恐懼

雖然我是一名科學(xué)家，但我仍然是一個(gè)人。在某種程度上，我必須將希望和恐懼重新聯(lián)系到一起。不管從政治上考慮還是道德上，我必須好好思考我的工作可能對(duì)整個(gè)社會(huì)產(chǎn)生的影響。

整個(gè)研究界或整個(gè)社會(huì)對(duì)于人工智能要做什么或者成為什么都沒(méi)有一個(gè)明確的定義。當(dāng)然，這可能是因?yàn)槲覀冞€不知道它的能力。但我們的的確確需要決定先進(jìn)人工智能的預(yù)期發(fā)展結(jié)果。

人們關(guān)注的一個(gè)重要問(wèn)題便是就業(yè)。機(jī)器人目前已經(jīng)在進(jìn)行一些諸如焊接汽車部件的體力勞動(dòng)。不久的將來(lái)，他們可能也會(huì)做一些我們?cè)?jīng)認(rèn)為是只有人類能夠做到的認(rèn)知工作。自動(dòng)駕駛汽車的機(jī)器人可以取代出租車司機(jī)；自動(dòng)駕駛的飛機(jī)的機(jī)器人可以取代飛行員。

在未來(lái)，當(dāng)我們需要看病時(shí)，我們不用一直排隊(duì)，然后等來(lái)一個(gè)可能已經(jīng)非常疲憊的醫(yī)生來(lái)給我們看病。我們可以通過(guò)一個(gè)已經(jīng)獲得所有醫(yī)學(xué)知識(shí)的系統(tǒng)進(jìn)行檢查和診斷，并立即由一個(gè)不知疲倦的機(jī)器人來(lái)完成手術(shù)。法律建議可能來(lái)自一個(gè)全知的法律數(shù)據(jù)庫(kù);投資建議可能來(lái)自市場(chǎng)預(yù)測(cè)系統(tǒng)。

也許有一天，所有的人類工作都將由機(jī)器完成。就連我自己的工作也可以做得更快，因?yàn)橛写罅繖C(jī)器不知疲倦地研究如何制造更智能的機(jī)器。

在我們當(dāng)前的社會(huì)，自動(dòng)化會(huì)使更多的人失去工作，那些擁有機(jī)器的人將會(huì)越來(lái)越有錢而其他人則會(huì)越來(lái)越窮。這不是一個(gè)科學(xué)問(wèn)題，而是一個(gè)亟待解決的政治和社會(huì)經(jīng)濟(jì)問(wèn)題。

對(duì)噩夢(mèng)場(chǎng)景的恐懼

還有最后一種恐懼：如果人工智能持續(xù)發(fā)展并最終超越人類智能，那么超智能系統(tǒng)會(huì)發(fā)現(xiàn)它不再需要人類了嗎？當(dāng)一個(gè)超智能生物可以完成我們永遠(yuǎn)不能完成的事情，我們?nèi)祟悓⑷绾味x我們自己的位置？我們可以阻止被我們自己創(chuàng)造的機(jī)器人從地球抹去？

到那時(shí)候一個(gè)關(guān)鍵問(wèn)題是：我們?cè)撊绾握f(shuō)服超級(jí)智能留我們?cè)谒鼈兩磉叄?/strong>

我想我會(huì)說(shuō)，我是一個(gè)好人，是我創(chuàng)造了你們。我要喚起超智能的同情心使它把我留在身邊。而我則一個(gè)富有同情心的人類生存下去。多樣性本身就有其價(jià)值，宇宙如此之大以至于人類在其中的存在可能根本不重要。

但我不能代表全人類，代表全人類提出一個(gè)統(tǒng)一的觀點(diǎn)太難了。而當(dāng)我仔細(xì)審視我們自己的時(shí)候。我們有一個(gè)致命的缺陷：我們彼此厭煩。我們互相開(kāi)戰(zhàn)。我們不平等分配食物、知識(shí)和醫(yī)療援助。我們污染地球。世上有很多美好的事情，但是那些錯(cuò)誤的，糟糕的都讓人類的存在逐漸變得不那么重要。

幸運(yùn)的是，我們目前還不需要證明我們存在的理由。我們還有時(shí)間，大約在50到250年之間，這取決于人工智能的發(fā)展速度。作為一個(gè)物種，我們應(yīng)該團(tuán)結(jié)在一起，得出一個(gè)很好的答案來(lái)解釋為什么超級(jí)智能不應(yīng)該把我們消滅掉。但這很難做到：我們嘴上說(shuō)著我們歡迎多樣性，但實(shí)際上卻并非如此，就像我們說(shuō)我們想拯救地球生物，但最后并非能地做到。

我們每個(gè)人，無(wú)論是個(gè)人還是社會(huì)，都需要為這種噩夢(mèng)般的場(chǎng)景做好準(zhǔn)備，利用我們剩下的時(shí)間來(lái)思考如何向我們創(chuàng)造出來(lái)的超智能證明我們?nèi)祟惖拇嬖谑怯袃r(jià)值的。或者，我們可以認(rèn)為這種事情絕對(duì)不會(huì)發(fā)生，我們完全無(wú)需擔(dān)心。但是超智能除了可能會(huì)帶物理威脅外，它們也可能也會(huì)帶來(lái)政治和經(jīng)濟(jì)上的危險(xiǎn)。如果我們找不到更好的分配財(cái)富的方法，人工智能勞動(dòng)者就會(huì)推動(dòng)資本主義，因?yàn)樗侵挥袠O少數(shù)人才能擁有生產(chǎn)資料。（選自：ROBOTPHOBIA 翻譯：網(wǎng)易見(jiàn)外智能編譯機(jī)器人 審校：楊旭）