對(duì)于AI人工智能 霍金在GMIC大會(huì)上說了什么？

在GMIC2017首日，最引人關(guān)注的算是當(dāng)今世界最偉大的物理學(xué)家、宇宙學(xué)家霍金通過視頻對(duì)話GMIC，發(fā)表了他對(duì)于人工智能可能帶給人類的變化的看法和一些思考。

霍金在開篇表示，強(qiáng)大的人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。對(duì)于好壞我們?nèi)詿o法確定，現(xiàn)在人類只能竭盡所能，確保其未來發(fā)展對(duì)人類和環(huán)境有利，人類別無選擇。

霍金在GMIC上說了什么

也許應(yīng)該把我們的研究重復(fù)從提升人工智能能力轉(zhuǎn)移到最大化人工智能的社會(huì)效益上面。但我們的人工智能系統(tǒng)須要按照我們的意志工作。人工智能是有根除疾患和貧困的潛力的，但是研究人員必須能夠創(chuàng)造出可控的人工智能。

因?yàn)槿斯ぶ悄軒Ыo我們的潛在利益的同時(shí)，也會(huì)帶來了巨大的風(fēng)險(xiǎn)。我們也可能會(huì)被人工智能藐視并被邊緣化，或者很可能被它毀滅。人類由于受到漫長(zhǎng)的生物進(jìn)化的限制，無法與之競(jìng)爭(zhēng)，將被取代。

短期的擔(dān)憂在無人駕駛方面，從民用無人機(jī)到自主駕駛汽車。在緊急情況下，一輛無人駕駛汽車不得不在小風(fēng)險(xiǎn)的大事故和大概率的小事故之間進(jìn)行選擇。另一個(gè)擔(dān)憂在致命性智能自主武器，他們是否該被禁止？如果是，那么“自主”該如何精確定義。如果不是，任何使用不當(dāng)和故障的過失應(yīng)該如何問責(zé)。此外，人工智能逐漸可以解讀大量監(jiān)控?cái)?shù)據(jù)，還會(huì)引起隱私的擔(dān)憂，以及如何管理因人工智能取代工作崗位帶來的經(jīng)濟(jì)影響。

長(zhǎng)期擔(dān)憂主要是人工智能系統(tǒng)失控的潛在風(fēng)險(xiǎn)，隨著不遵循人類意愿行事的超級(jí)智能的崛起，那個(gè)強(qiáng)大的系統(tǒng)威脅到人類，比如最大化使用智能性自主武器?？萍碱I(lǐng)袖和科學(xué)家正極盡所能避免不可控的人工智能的崛起。

雖然我們對(duì)潛在危險(xiǎn)有所意識(shí)，但霍金內(nèi)心仍秉持樂觀態(tài)度，他相信創(chuàng)造智能的潛在收益是巨大的。也許借助這項(xiàng)新技術(shù)革命的工具，我們將可以削減工業(yè)化對(duì)自然界造成的傷害。

可喜的是，當(dāng)前歐洲議會(huì)已在呼吁起草一系列法規(guī)，這里涉及到了一種形式的電子人格，以確保最有能力和最先進(jìn)的人工智能的權(quán)利和責(zé)任。我們需要確保機(jī)器人無論現(xiàn)在還是將來，都為人類而服務(wù)。報(bào)告強(qiáng)調(diào)，在任何時(shí)候，研究和設(shè)計(jì)人員都應(yīng)確保每一個(gè)機(jī)器人設(shè)計(jì)都包含有終止開關(guān)。

最后，霍金還談到，我們還應(yīng)該扮演一個(gè)角色，確保下一代不僅僅有機(jī)會(huì)還要有決心，在早期階段充分參與科學(xué)研究，以便他們繼續(xù)發(fā)揮潛力，幫助人類創(chuàng)造一個(gè)更加美好的的世界。我們需要跳出“事情應(yīng)該如何”這樣的理論探討，并且采取行動(dòng)，以確保他們有機(jī)會(huì)參與進(jìn)來。我們站在一個(gè)美麗新世界的入口。

以下為中國(guó)科技大咖、科學(xué)家、投資家、網(wǎng)友跟霍金教授之間的問答

創(chuàng)新工場(chǎng)的CEO李開復(fù)：互聯(lián)網(wǎng)巨頭擁有巨量的數(shù)據(jù)，而這些數(shù)據(jù)會(huì)給他們各種以用戶隱私和利益換取暴利的機(jī)會(huì)。在巨大的利益誘惑下，他們是無法自律的。而且，這種行為也會(huì)導(dǎo)致小公司和創(chuàng)業(yè)者更難創(chuàng)新。您常談到如何約束人工智能，但更難的是如何約束人本身。您認(rèn)為我們應(yīng)該如何約束這些巨頭？

據(jù)我了解，許多公司僅將這些數(shù)據(jù)用于統(tǒng)計(jì)分析，但任何涉及到私人信息的使用都應(yīng)該被禁止。會(huì)有助于隱私保護(hù)的是，如果互聯(lián)網(wǎng)上所有的信息，均通過基于量子技術(shù)加密，這樣互聯(lián)網(wǎng)公司在一定時(shí)間內(nèi)便無法破解。但安全服務(wù)會(huì)反對(duì)這個(gè)做法。

獵豹移動(dòng)CEO傅盛：靈魂會(huì)不會(huì)是量子的一種存在形態(tài)？或者是高維空間里的另一個(gè)表現(xiàn)？

我認(rèn)為近來人工智能的發(fā)展，比如電腦在國(guó)際象棋和圍棋的比賽中戰(zhàn)勝人腦，都顯示出人腦和電腦并沒有本質(zhì)差別。這點(diǎn)上我和我的同事羅杰·彭羅斯正好相反。會(huì)有人認(rèn)為電腦有靈魂嗎？對(duì)我而言，靈魂這個(gè)說法是一個(gè)基督教的概念，它和來世聯(lián)系在一起。我認(rèn)為這是一個(gè)童話故事。

百度總裁張亞勤：人類觀察和抽象世界的方式不斷演進(jìn)，從早期的觀察和估算，到牛頓定律和愛因斯坦方程式， 到今天數(shù)據(jù)驅(qū)動(dòng)的計(jì)算和人工智能，下一個(gè)是什么？

我們需要一個(gè)新的量子理論，將重力和其他自然界的其它力量整合在一起。許多人聲稱這是弦理論，但我對(duì)此表示懷疑，目前唯一的推測(cè)是，時(shí)空有十個(gè)維度。

斯坦福大學(xué)物理學(xué)教授張首晟：如果讓你告訴外星人我們?nèi)祟惾〉玫淖罡叱删停瑢懺谝粡埫餍牌谋趁?，您?huì)寫什么？

告訴外星人關(guān)于美，或者任何可能代表最高藝術(shù)成就的藝術(shù)形式都是無益的，因?yàn)檫@是人類特有的。我會(huì)告訴他們哥德爾不完備定理和費(fèi)馬大定理。這才是外星人能夠理解的事情。

現(xiàn)場(chǎng)采訪者：我們希望提倡科學(xué)精神，貫穿GMIC全球九站，請(qǐng)您推薦三本書，讓科技屆的朋友們更好的理解科學(xué)及科學(xué)的未來。

他們應(yīng)該去寫書而不是讀書。只有當(dāng)一個(gè)人關(guān)于某件事能寫出一本書，才代表他完全理解了這件事。

微博網(wǎng)友：您認(rèn)為一個(gè)人一生中最應(yīng)當(dāng)做的一件事和最不應(yīng)當(dāng)做的一件事是什么？

我們絕不應(yīng)當(dāng)放棄，我們都應(yīng)當(dāng)盡可能多的去理解（這個(gè)世界）。

微博網(wǎng)友：人類在漫漫的歷史長(zhǎng)河中，重復(fù)著一次又一次的革命與運(yùn)動(dòng)。從石器、蒸汽、電氣……您認(rèn)為下一次的革命會(huì)是由什么驅(qū)動(dòng)的

（我認(rèn)為是）計(jì)算機(jī)科學(xué)的發(fā)展，包括人工智能和量子計(jì)算?？萍家呀?jīng)成為我們生活中重要的一部分，但未來幾十年里，它會(huì)逐漸滲透到社會(huì)的每一個(gè)方面，為我們提供智能地支持和建議，在醫(yī)療、工作、教育和科技等眾多領(lǐng)域。但是我們必須要確保是我們來掌控人工智能，而非它（掌控）我們。

音樂人、投資者胡海泉：如果星際移民技術(shù)的成熟窗口期遲到，有沒有完全解決不了的內(nèi)發(fā)災(zāi)難導(dǎo)致人類滅絕？拋開隕星撞地球這樣的外來災(zāi)難。

是的。人口過剩、疾病、戰(zhàn)爭(zhēng)、饑荒、氣候變化和水資源匱乏，人類有能力解決這些危機(jī)。但很可惜，這些危機(jī)還嚴(yán)重威脅著我們?cè)诘厍蛏系纳?，這些危機(jī)都是可以解決的，但目前還沒有。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。