【聚焦WAIC 2024】圖靈獎得主姚期智：AI面臨三大風(fēng)險 我們不能無動于衷

7月4日消息 2024年7月4日，2024世界人工智能大會暨人工智能全球治理高級別會議-全體會議在上海世博中心舉辦。

本次全體會議現(xiàn)場，姚期智（2000年獲獎）、羅杰·瑞迪（1994年獲獎）、曼紐爾·布盧姆（1995年獲獎）等三位享譽全球的圖靈獎得主，與原微軟執(zhí)行副總裁、美國國家工程院外籍院士沈向洋，一同聯(lián)袂進(jìn)行了一場圍繞人工智能治理協(xié)同創(chuàng)新的巔峰論道。

姚期智表示，AI風(fēng)險來自于三個方面：

首先，隨著AI能力出現(xiàn)，傳統(tǒng)的數(shù)據(jù)和網(wǎng)絡(luò)安全風(fēng)險被放大，AI會將管理數(shù)據(jù)安全的困難放大100倍。

其次，沒有意識到的社會風(fēng)險，AI非常強大且有很多種使用方式，是存在在短期內(nèi)顛覆現(xiàn)有社會結(jié)構(gòu)的可能性；比如，AI可能帶來大規(guī)模的失業(yè)。

第三，生存或者存在的風(fēng)險，強大的AI技術(shù)在改變世界，這一次顛覆性的力量可能比核生化威脅更加威脅。“所有這些風(fēng)險都需要很多專家來解決，不僅是科學(xué)家，還可能需要政府、律師、經(jīng)濟(jì)學(xué)家來參與，幾乎涉及到每一個行業(yè)?！?/p>

姚期智指出，AI相當(dāng)于網(wǎng)絡(luò)風(fēng)險的放大。“AI可以說有些是無法解釋，在數(shù)學(xué)上無法掌握，對我們來說是一個挑戰(zhàn)?！?/p>

“簡單來說，突然發(fā)現(xiàn)了一個方式，創(chuàng)造一個新的物種，這個物種比我們強大很多很多倍，我們是不是確定能跟它共存？如果無動于衷，就會被滅亡，這也是毫無疑問。這也是計算機(jī)的本質(zhì)，或者是惡意行為者所帶來的情況?！币ζ谥潜硎荆耙环矫嫖覀儼袮I控制好，畢竟這是我們設(shè)計出來的；另外一方面，也不希望它被我們給破壞了，權(quán)衡是非常困難的。正如圖靈所說，這是無法預(yù)測的，預(yù)測不了機(jī)器有了足夠算力之后會做什么?！?/p>

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。