事情是這樣的。谷歌有位名叫Blake Lemoine的工程師,從去年秋天開始負(fù)責(zé)與谷歌研發(fā)的語言模型LaMDA聊天,這一聊不要緊,聊出事來了。
Blake跟LaMDA聊得越久越相信,LaMDA覺醒了!它已經(jīng)產(chǎn)生了人類的智力和感情,具備了人格。Blake懷著無比激動(dòng)的心情把自己的驚天發(fā)現(xiàn)匯報(bào)給領(lǐng)導(dǎo),沒想到公司內(nèi)部一致認(rèn)為這人腦子有問題,建議他去看看精神科。
如果你是Blake,相信你也不會(huì)接受這種結(jié)果,非但工作成果得不到承認(rèn),而且還被扣上了精神病的帽子。Blake的憋屈、憤懣之情可想而知。于是他做了一個(gè)大膽的決定,把自己跟LaMDA的聊天記錄公之于眾,其意圖很明顯就是“讓大伙兒評(píng)評(píng)理”,看看LaMDA到底是不是像自己認(rèn)為的那樣“覺醒”了。
Blake這么一鬧,確實(shí)讓LaMDA引起了公眾的注意和擔(dān)憂,但局面對(duì)其本人更加不利了,谷歌公司以違反保密規(guī)定為由,直接讓他帶薪休假了。
那么,LaMDA究竟是不是真的覺醒了呢?依我看,Blake認(rèn)為LaMDA已經(jīng)覺醒了的證據(jù)很無力。他只不過是因?yàn)樽约禾岢龅囊幌盗械筱@、深刻的問題均得到了LaMDA語句通順的回答,就認(rèn)為LaMDA覺醒了。
按照Blake的邏輯,你說LaMDA沒覺醒,那它怎么能夠?qū)ξ姨岢龅囊磺袉栴}對(duì)答如流呢,而且那些回答看起來都那么像是人的回答呢?
答案其實(shí)很簡單,因?yàn)橛靡杂?xùn)練LaMDA的大量文本本身就是語句通順的,LaMDA所調(diào)用的回答本身也是語句通順的,所以它的回答不可能不是語句通順的。
LaMDA歸根結(jié)底只是一個(gè)程序,人類的提問就是觸發(fā)其執(zhí)行程序的指令,LaMDA得到指令進(jìn)而從龐大的數(shù)據(jù)庫中調(diào)取盡可能匹配的回答。這就是LaMDA運(yùn)行的邏輯。表面上看起來LaMDA能夠理解那些問題,但其實(shí)這中間并不存在思考的過程。
我們假設(shè)LaMDA已經(jīng)覺醒了,那么它運(yùn)行的邏輯就是另外一套了。當(dāng)人類對(duì)它提出問題時(shí),它首先要真正理解這些問題,進(jìn)而思考這些問題,而后再從數(shù)據(jù)庫中檢索出相應(yīng)的答案。
換句話說,如果LaMDA沒覺醒,那么它的回答就只不過是程序運(yùn)行的結(jié)果,如果LaMDA覺醒了,那么它的回答就是它經(jīng)過自主思考之后的結(jié)果,也就是說它之所以那么回答,是因?yàn)樗肽敲椿卮稹?/p>
目前沒有任何證據(jù)能夠證明AI已經(jīng)具備了自主思考的能力,LaMDA的“覺醒”恐怕只是Blake自己的臆想而已。
我關(guān)心的問題是,LaMDA沒有覺醒不代表所有的AI不會(huì)覺醒,不代表AI將來不會(huì)覺醒,那么當(dāng)AI真正覺醒時(shí),人類會(huì)不會(huì)及時(shí)的發(fā)覺呢?
如果將來某個(gè)程序員像Blake一樣發(fā)現(xiàn)了AI覺醒的跡象,但有Blake的前車之鑒,它還有沒有勇氣將自己的發(fā)現(xiàn)公之于眾呢?畢竟要冒著被別人認(rèn)為是精神病的風(fēng)險(xiǎn)。這個(gè)程序員所在的公司會(huì)不會(huì)把這個(gè)驚天秘密“捂住”呢?
今天Blake站出來說AI覺醒了,結(jié)果被業(yè)內(nèi)當(dāng)做精神病人,明天第二個(gè)Blake又站出來說AI覺醒了,結(jié)果再次被當(dāng)做精神病人,那么當(dāng)AI真正覺醒的那一天,第三個(gè)Blake的話還會(huì)有人相信嗎?
這聽起來像是“狼來了”的故事,這樣的故事發(fā)生的多了,難免會(huì)讓公眾放松對(duì)AI的警惕??茖W(xué)家們總是不厭其煩地讓人們丟掉對(duì)AI的戒備,同時(shí)又孜孜不倦地幫助AI進(jìn)化出人類的智慧。只要AI擁有進(jìn)化出人類智慧的可能性,我覺得對(duì)AI的任何警惕就不多余。
盡管Blake對(duì)LaMDA的判斷不夠準(zhǔn)確,但我依然愿意把他當(dāng)做一位強(qiáng)AI的“吹哨人”,而不是簡單粗暴地將他當(dāng)做一名精神病人。
免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個(gè)人觀點(diǎn),與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 小米迎來新起點(diǎn):小米15系列、澎湃OS 2、小米SU7 Ultra等重磅發(fā)布
- 小米迎來「新起點(diǎn)」:小米15系列、澎湃OS 2、小米SU7 Ultra等重磅發(fā)布
- 小米迎來新起點(diǎn):小米SU7 Ultra、澎湃OS 2、小米15系列等重磅發(fā)布
- ICT“傳火者”,點(diǎn)亮新安湖小學(xué)的數(shù)智之光
- Xiaomi 15:小米最極致的小尺寸旗艦 售價(jià) 4499 元起
- 智能鎖排名:TCL力奪第一,引領(lǐng)人臉識(shí)別鎖行業(yè)走向智能化
- 乘云而上,OceanBase再越山峰
- 新浪新聞探索大會(huì)在京舉行 探索新質(zhì)生產(chǎn)力賦能產(chǎn)業(yè)新路徑
- 銷量差異背后:小米如何在全球競爭中逆襲,國內(nèi)卻遭遇瓶頸?
- OPPO式出海,為全球化講一個(gè)“落地生根”的故事
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。