李飛飛PK赫拉利：長(zhǎng)盛不衰的“AI威脅論”到底有何魅力？

四月份的大佬們似乎都有點(diǎn)暴躁。自動(dòng)駕駛那邊撕的熱鬧，人工智能也沒閑著。

在4月22日，斯坦福大學(xué)舉辦的一場(chǎng)“未來(lái)AI”主題活動(dòng)中，AI圈“女神”、斯坦?！耙匀藶楸尽?a href="http://m.ygpos.cn/AI_1.html" target="_blank" class="keylink">AI研究院領(lǐng)導(dǎo)者李飛飛，就和暢銷書《人類簡(jiǎn)史》《未來(lái)簡(jiǎn)史》作家尤瓦爾·赫拉利，就人工智能展開了一場(chǎng)“論戰(zhàn)”。

場(chǎng)面很火爆，咖位很耀眼，2000人的演講廳是人山人海，據(jù)到場(chǎng)的同學(xué)說，都開始“賣站票”了?？吹?a href="http://m.ygpos.cn/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD_1.html" target="_blank" class="keylink">人工智能這么受歡迎，真是我心甚慰。

但對(duì)談的內(nèi)容，卻有點(diǎn)讓人想打瞌睡。還是十幾年前老掉牙的話題：

1.人工智能能力太強(qiáng)，威脅人類大腦；

2.神經(jīng)算法不可解釋，可控性太差；

3.AI將顛覆固有模式，帶來(lái)一系列社會(huì)問題。

不是，早在2016年阿爾法狗大戰(zhàn)李世石的時(shí)候，“AI威脅論”不就被媒體用夸張的標(biāo)題和內(nèi)容來(lái)渲染，又被科學(xué)家和產(chǎn)業(yè)界人士集體辟謠了么？9012了，興沖沖地跑過來(lái)，就讓我聽這個(gè)？好像總有一種期待沒有被滿足的感覺。

不妨來(lái)聊聊這個(gè)話題：關(guān)于人工智能，哲學(xué)家和科學(xué)家為什么總在“打嘴仗”？

AI威脅論：換個(gè)“新瓶”依然很有市場(chǎng)的“陳年窖藏”

認(rèn)真地說，這場(chǎng)關(guān)于人工智能的爭(zhēng)論還是值得一聽的。畢竟兩位大咖作為產(chǎn)業(yè)界和哲學(xué)界的代表，都有著各自深厚的功底和遠(yuǎn)見卓識(shí)。

尤瓦爾·赫拉利的《未來(lái)簡(jiǎn)史》，就以宏大的視角審視了人類未來(lái)的終極命運(yùn)；曾任斯坦福人工智能實(shí)驗(yàn)室和計(jì)算機(jī)視覺實(shí)驗(yàn)室負(fù)責(zé)人、谷歌云 AI 負(fù)責(zé)人的李飛飛，對(duì)AI學(xué)術(shù)進(jìn)展和產(chǎn)業(yè)落地的了解也是得到公認(rèn)的。

那么，兩位“業(yè)界代表”華山論劍，都碰撞出了哪些火花呢？“課代表”已經(jīng)幫大家畫好了重點(diǎn)：

第一回合：AI與生物科技、大數(shù)據(jù)結(jié)合，會(huì)不會(huì)威脅人類大腦安全？

赫拉利認(rèn)為，現(xiàn)在的人工智能經(jīng)過大數(shù)據(jù)的加持，已經(jīng)能夠比單個(gè)人腦做出更好的決策，甚至比人類自己還了解自己。算法能夠準(zhǔn)確地知道人類對(duì)什么感興趣、想買什么、適合怎樣的工作、如何投資理財(cái)，還能幫助人類“找對(duì)象”。

加上腦科學(xué)和生物科技的助攻，強(qiáng)大的人工智能算法可以從人類大腦中收集數(shù)據(jù)，那么“黑入人類大腦”，自然也就是一件技術(shù)門檻很低的事情了，提防這種隱私安全和倫理風(fēng)險(xiǎn)，很合理。

而李飛飛則以更積極的視角來(lái)看待這件事。首先，AI算法只是對(duì)人腦神經(jīng)網(wǎng)絡(luò)的模擬，人類連腦機(jī)制都沒有搞清楚的前提下，AI算法也不可比達(dá)到人腦的能力；而且，AI與生物科技的融合，已經(jīng)在新藥開發(fā)、醫(yī)療診斷等領(lǐng)域發(fā)揮價(jià)值，目前來(lái)看，技術(shù)更多的是在造福人類，而非相反；更關(guān)鍵的是，產(chǎn)業(yè)界并沒有漠視倫理和隱私問題，相反，很多AI企業(yè)早已將隱私保護(hù)作為發(fā)展AI的前提條件，也將安全保障的軟硬件技術(shù)解決方案提上了日程。

順便打了個(gè)廣告，指出斯坦福的“以人為本”AI研究院就是希望通過將社會(huì)學(xué)、心理學(xué)、哲學(xué)等多種人類學(xué)科與AI技術(shù)融合在一起，更好地應(yīng)對(duì)未來(lái)的倫理挑戰(zhàn)。

第二回合：AI能學(xué)到“愛”的能力并與人類相愛嗎？

這個(gè)問題簡(jiǎn)直是母胎solo人士的噩耗啊，機(jī)器都要來(lái)和人搶對(duì)象了？

赫拉利認(rèn)為這是很可能的。從生理學(xué)的角度，愛情的產(chǎn)生與體內(nèi)的生物化學(xué)反應(yīng)、荷爾蒙等激素變化息息相關(guān)進(jìn)而影響到情緒、心跳、語(yǔ)言動(dòng)作等一系列表征。 如果AI能夠產(chǎn)生意識(shí)，自然也就能夠模擬出類似的“反射”，也就是我們說的，識(shí)別和表達(dá)“愛”。結(jié)合前面“AI可以黑入大腦”的假設(shè)，那么未來(lái)豈不是連“愛情”都是由機(jī)器操控了。

李飛飛指出了這一擔(dān)憂成立的兩個(gè)現(xiàn)實(shí)前提：一是人工智能已經(jīng)強(qiáng)大到可以預(yù)測(cè)人類愛和意識(shí)的程度；二是人工智能技術(shù)凌駕于其他技術(shù)至上，成為一家獨(dú)大、統(tǒng)領(lǐng)一切的存在。顯然，從AI六十多年三起三落的發(fā)展史來(lái)看，這種預(yù)期真的是……滅霸都不敢這么想。

第三回合：AI會(huì)不會(huì)出賣主人？

我們知道，現(xiàn)在的AI神經(jīng)網(wǎng)絡(luò)并不透明，連研究人員有時(shí)候都不知道算法是如何工作并得出結(jié)果的，這被稱之為AI的黑箱性，也叫不可解釋性。

既然AI能夠在不告訴主人的前提下收集信息，那么偷偷摸摸跟廣告商、大公司、政府組織聯(lián)合起來(lái)“殺熟”怎么辦？

對(duì)于赫拉利的這種擔(dān)憂，李飛飛分享了斯坦福AI研究院針對(duì)“可解釋AI”做得一系列工作，而且，業(yè)內(nèi)也在探索對(duì)數(shù)據(jù)庫(kù)依賴更少的機(jī)器學(xué)習(xí)方法，比如少樣本學(xué)習(xí)和零樣本學(xué)習(xí)。除了大超大規(guī)模的多層深度神經(jīng)網(wǎng)絡(luò)，直接從人類經(jīng)驗(yàn)、學(xué)習(xí)方式中得到啟發(fā)的“元學(xué)習(xí)”等方法，也能幫助解決這類問題。

（李飛飛）

第四回合：AI全球競(jìng)賽，會(huì)比核競(jìng)賽更可怕嗎？

赫拉利還提到，目前AI的發(fā)展只有中、美以及極少數(shù)國(guó)家具備競(jìng)爭(zhēng)優(yōu)勢(shì)，而大多數(shù)亞歐非國(guó)家的整體技術(shù)水平甚至都不如谷歌亞馬遜這樣的科技企業(yè)。

而且，隨著AI產(chǎn)業(yè)的發(fā)展，各國(guó)之家的競(jìng)爭(zhēng)意味也越來(lái)越濃。比如歐洲主動(dòng)建構(gòu)數(shù)據(jù)壁壘，美國(guó)對(duì)中籍技術(shù)人員加強(qiáng)簽證審查等等。目前的趨勢(shì)是，國(guó)家競(jìng)爭(zhēng)開始大于合作。這顯然不是一個(gè)好消息，甚至可能引發(fā)一場(chǎng)數(shù)字化的全球殖民。

但李飛飛并不同意這種判斷。她認(rèn)為目前AI在全球范圍內(nèi)的合作和交流非常頻繁，遠(yuǎn)超出赫拉利的想象。斯坦福每年與全球合作產(chǎn)生的科學(xué)論文就數(shù)不勝數(shù)，GitHub這樣的開源服務(wù)社區(qū)也越來(lái)越多。而且，越來(lái)越多掌握技術(shù)優(yōu)勢(shì)的巨頭企業(yè)也開始推崇“AI民主化”的思路，在產(chǎn)業(yè)發(fā)展上扮演起了分享者的角色。

一些AI發(fā)展較為落后的國(guó)家，還是有很多機(jī)會(huì)和時(shí)間去思考，制定自己的AI發(fā)展戰(zhàn)略的。

（尤瓦爾·赫拉利）

四個(gè)回合的交鋒下來(lái)，我想大多數(shù)人也很難得出什么清晰有效的結(jié)論。這甚至稱不上是一場(chǎng)論戰(zhàn)，而是兩種看待AI的思維方式之間的交談。赫拉利如同一個(gè)操心的老母親，痛心疾首地規(guī)勸青春期的AI，誰(shuí)知道前面埋了多少隱患啊，猥瑣發(fā)育，別浪~

恰好碰上當(dāng)慣了“MT”的李飛飛，對(duì)于技術(shù)非常熟悉，更擅長(zhǎng)解決問題，不會(huì)對(duì)背后的哲學(xué)危險(xiǎn)想太多。

兩個(gè)人都想將對(duì)方引入自己的邏輯框架和經(jīng)驗(yàn)體系，卻又接二連三地自說自話。

李飛飛就在對(duì)話中開了一個(gè)玩笑，說“科學(xué)家們真的很忙，我羨慕哲學(xué)家們，他們可以只提出問題來(lái)，用幾千年來(lái)反復(fù)討論卻沒有個(gè)答案，而我們科學(xué)家們卻要馬上回答?！?/p>

一種“我跟你談理想，你跟我談現(xiàn)實(shí)”的無(wú)力感覺，幾個(gè)回合下來(lái)，作為觀眾的我都感覺有點(diǎn)受不住了。

這里不妨列舉幾個(gè)相愛相殺的“cp”，大家品品看是不是熟悉的配方和味道。

一個(gè)恒久的命題：該不該對(duì)AI常懷恐懼？

早在五年前，類似的談話就曾在另外兩位大佬：特斯拉的創(chuàng)立者埃隆馬斯克，和Facebook創(chuàng)始人及CEO扎克伯格身上發(fā)生過。

馬斯克是一個(gè)堅(jiān)定的“AI反對(duì)者”。他曾經(jīng)一再通過電視和各種社交媒體渠道提醒全世界，人工智能“可能要比核武器更危險(xiǎn)”。為了防范AI風(fēng)險(xiǎn)，馬斯克還出資建立了獨(dú)立人工智能實(shí)驗(yàn)室OpenAI，研究目標(biāo)是開發(fā)確保不會(huì)失控的超級(jí)智能技術(shù)。

不過，與赫拉利不同的是，馬斯克認(rèn)為人類想要與超級(jí)AI并存，必須讓大腦與機(jī)器直接聯(lián)系。為此，他還創(chuàng)辦了一家名叫Neuralink的公司，投資總額高達(dá)1億美元，來(lái)研究通過電腦與人類大腦連接的“神經(jīng)界面”。

但扎克伯格認(rèn)為，馬斯克對(duì)人工智能的看法“相當(dāng)不負(fù)責(zé)任”，完全就是杞人憂天，還會(huì)威脅到自動(dòng)駕駛和AI醫(yī)療等對(duì)人類有益的技術(shù)進(jìn)步。

為了扭轉(zhuǎn)馬斯克的念頭，2014年11月19日，扎克伯格邀請(qǐng)馬斯克到家中共進(jìn)晚餐，列席的還有Facebook人工智能實(shí)驗(yàn)室的兩名頂級(jí)研究人員以及另外兩位Facebook高管。

雖然是1v3，但馬斯克完全沒有在怕的。Facebook的代表們?cè)噲D通過一頓晚餐讓馬斯克相信自己對(duì)于人工智能的看法是錯(cuò)誤的，但除了費(fèi)了點(diǎn)口水，并沒有起到任何作用。

后來(lái)扎克伯格還為此諷刺過馬斯克，“已經(jīng)和馬斯克討論過這件事，他對(duì)這個(gè)問題的理解非常有限?！?/p>

對(duì)于AI，F(xiàn)acebook的態(tài)度基本上和科技行業(yè)的看法是一致的，那就是只要能讓世界變得更美好，就是好的技術(shù)。

產(chǎn)業(yè)界爭(zhēng)論不休，學(xué)術(shù)界也存在分歧。

已故的物理學(xué)家史蒂芬·霍金（Stephen Hawking），就公開表達(dá)了對(duì)人類創(chuàng)造出比自己更聰明機(jī)器的擔(dān)憂。提醒人類應(yīng)該在重度押注AI之前認(rèn)真考慮所產(chǎn)生的后果。

康奈爾大學(xué)計(jì)算機(jī)科學(xué)教授、貝爾實(shí)驗(yàn)室前研究員Bart Selman也認(rèn)為目前研究的系統(tǒng)能力過于強(qiáng)大，“我們現(xiàn)在還無(wú)法理解它的影響力?！?/p>

但麻省理工學(xué)院的機(jī)器人專家Rodney Brooks卻認(rèn)為“AI威脅論”并不科學(xué)，得出這樣不能被論證對(duì)錯(cuò)的結(jié)論，是科學(xué)家們所不能接受的。

在近日對(duì)全球23位頂尖AI學(xué)者的一次調(diào)查中，其中包括了DeepMind首席執(zhí)行官Demis Hassabis，谷歌AI首席執(zhí)行官Jeff Dean和斯坦福AI負(fù)責(zé)人李飛飛等，想要在有生之年見證AGI（通用人工智能，也是令馬斯克焦慮的“超級(jí)智能”）的實(shí)現(xiàn)，幾乎不可能。

目前人類已經(jīng)擁有了成千上萬(wàn)的AI系統(tǒng)?？缮婕暗揭话愕哪X力活動(dòng)時(shí)，還沒有一個(gè)AI系統(tǒng)能夠比得上老鼠，更別說超過人類了。

對(duì)此，艾倫研究所的負(fù)責(zé)人Etzioni表示，今天的人工智能系統(tǒng)依然非常有限，花太多時(shí)間去擔(dān)心它的安全性，完全沒有意義。

硅谷有句諺語(yǔ)：我們會(huì)高估三年內(nèi)的成果，但低估10年后的成績(jī)。目前看來(lái)，這種觀點(diǎn)上的反復(fù)爭(zhēng)論，正恰如其分地體現(xiàn)了這一點(diǎn)。

對(duì)于AI這樣復(fù)雜的領(lǐng)域來(lái)說，哲學(xué)與科學(xué)的反復(fù)博弈，是一個(gè)長(zhǎng)期且必經(jīng)的過程，未來(lái)還將持續(xù)進(jìn)行下去。如何在人類社會(huì)上架設(shè)智能，沒有簡(jiǎn)單唯一的標(biāo)準(zhǔn)答案可供參考。

即使在各學(xué)科的頂級(jí)精英內(nèi)部，都很難達(dá)成一致。

要讓大眾理解AI到底能做什么、在做什么、將做什么，也是一件任重道遠(yuǎn)的是。大多數(shù)哲學(xué)家、社會(huì)科學(xué)家和評(píng)論家都會(huì)“AI威脅論”買單，更何況廣大普通群眾?！癆I取代人類”至今還能登上一些新聞資訊平臺(tái)的頭條，已經(jīng)足以說明問題。

惡之花到底開在哪里？科學(xué)與社會(huì)的雙重警告

值得一提的是，與其爭(zhēng)論“機(jī)器”會(huì)不會(huì)統(tǒng)治人類，不如擔(dān)心一小部分人利用技術(shù)工具進(jìn)行不合理的操作。

比如前不久美國(guó)五角大樓試圖向科學(xué)界尋求幫助，試圖研制新型自主武器。這一舉動(dòng)就遭到了4000多名谷歌員工的聯(lián)名抗議，甚至不少員工宣布不會(huì)繼續(xù)為谷歌工作。

隨后，谷歌也在輿論壓力下放棄了五角大樓價(jià)值900萬(wàn)美元的合同。

當(dāng)然，習(xí)慣“調(diào)戲”社會(huì)紅線的不只有渴望技術(shù)力量的人，還有恐懼它的。

哈佛大學(xué)教授泰德·卡辛斯基（Ted Kaczynski）就是一個(gè)典型的例子。這位高智商犯罪者用18年的時(shí)間，向芝加哥大學(xué)、耶魯大學(xué)等院校的理工科教授投遞除了16枚炸彈，共炸死3人，炸傷23人。

還給《紐約時(shí)報(bào)》寄了一枚，要求他們承諾一字不改全文刊登他的論文。最終，F(xiàn)BI和美國(guó)司法部同意了這個(gè)要求，《紐約時(shí)報(bào)》和《華盛頓郵報(bào)》在1995年9月19日分別刊登了這篇《論工業(yè)社會(huì)及其未來(lái)》。

這篇論文的觀點(diǎn)充滿了對(duì)技術(shù)的哲學(xué)思考，比如說：

“每一項(xiàng)新技術(shù)單獨(dú)考慮都是可取的，但匯聚在一起，普通人的命運(yùn)不再掌握在他自己手中，而是掌握在政客、公司主管、技術(shù)人員和官僚手中?！?/p>

還有，“假設(shè)計(jì)算機(jī)科學(xué)家成功地開發(fā)出了智能機(jī)器，這些機(jī)器無(wú)論做什么事都比人類強(qiáng)。在這種情況下，人類可能會(huì)輕易地讓自己淪落到一個(gè)完全依賴機(jī)器的位置，淪落到不能做出任何實(shí)際選擇，只能接受機(jī)器的所有決策的地步?！?/p>

即使超級(jí)智能沒有出現(xiàn)，但“機(jī)器也將承擔(dān)越來(lái)越多的簡(jiǎn)單工作，而低能力的工人將越來(lái)越過剩，未來(lái)留給人類的都是一些不那么重要的工作。以這樣的方式結(jié)局，對(duì)于人類來(lái)說也太可憐了”

……

卡辛斯基認(rèn)為，新技術(shù)引入社會(huì)會(huì)引發(fā)一長(zhǎng)串變化，其中大部分是不可預(yù)測(cè)的，因此唯一的解決方法就是放棄科學(xué)技術(shù)。

聽起來(lái)是不是和前面的“AI威脅論”有點(diǎn)雷同??？觀點(diǎn)原本無(wú)可厚非，展開探討還能促進(jìn)社會(huì)進(jìn)步與技術(shù)倫理的完善。但卡辛斯基為了踐行自己的理念開始“反社會(huì)”，動(dòng)不動(dòng)給人寄炸藥包，這已經(jīng)不是觀點(diǎn)之爭(zhēng)了。論文發(fā)表后，卡辛斯基被自己的弟弟舉報(bào)，于1996年被捕，最終被判處終身監(jiān)禁。

或許，今天即便在眾多學(xué)者的努力和言傳之下，我們依然無(wú)法預(yù)知并得到一個(gè)關(guān)于AI的終極答案，但可以肯定的是，隨著AI自我監(jiān)督和黑箱性的破解，它的安全指數(shù)正在快速提升。某種程度上，眾多“AI威脅論”者持之以恒的批評(píng)和質(zhì)疑起到了“精神安全鎖”的作用。

不久之前，Deepmind在博客中透露，準(zhǔn)備研發(fā)一種“AI保險(xiǎn)機(jī)制”，一旦發(fā)現(xiàn)AI的惡意傾向，就主動(dòng)終止AI的活動(dòng)。

當(dāng)提出問題和解決方案不斷以交替往復(fù)、互相影響的狀態(tài)向前奔跑時(shí)，也就給AI的潛在危險(xiǎn)貼上了一個(gè)又一個(gè)“絕緣膠布”。

最后，用赫拉利的前輩蘇格拉底的一句話來(lái)結(jié)束這篇文章吧—— “我只知道一件事，那就是什么都不知道。”

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。