關(guān)于人工智能（AI）你應(yīng)該了解的一切

關(guān)于人工智能（AI）你應(yīng)該了解的一切

人工智能的突破帶來了前所未有的機(jī)遇，但也帶來了經(jīng)濟(jì)、政治和社會(huì)的顛覆。專家表示，人工智能需要監(jiān)督，以確保其帶來的變化是更好的。

要點(diǎn)：2022年，隨著OpenAI開發(fā)的生成式人工智能聊天機(jī)器人ChatGPT的發(fā)布，人工智能(AI)實(shí)現(xiàn)了代溝式的飛躍。私營公司控制著美國大部分的人工智能開發(fā)。專家表示，這項(xiàng)技術(shù)將需要新的規(guī)則來最大限度地發(fā)揮其潛力，避免嚴(yán)重風(fēng)險(xiǎn)。人工智能在國際上的日益普及可能會(huì)重塑全球力量平衡，并可能帶來嚴(yán)重的地緣政治后果。

簡介

人工智能(AI)已存在數(shù)十年，但新的進(jìn)步使該技術(shù)脫穎而出。專家表示，其的崛起可能會(huì)反映以前的技術(shù)革命，為全球經(jīng)濟(jì)增加價(jià)值數(shù)十億美元的生產(chǎn)力，同時(shí)也帶來了一系列新的風(fēng)險(xiǎn)，可能會(huì)顛覆全球地緣政治秩序和社會(huì)本身的性質(zhì)。

管理這些風(fēng)險(xiǎn)至關(guān)重要，隨著美國、歐盟(EU)等主要大國在監(jiān)管這項(xiàng)技術(shù)方面采取越來越不同的方法，關(guān)于人工智能治理的全球辯論正在激烈進(jìn)行。與此同時(shí)，人工智能的開發(fā)和部署繼續(xù)以指數(shù)速度進(jìn)行。

人工智能是如何定義的？

雖然沒有單一的定義，但“人工智能”通常是指計(jì)算機(jī)執(zhí)行傳統(tǒng)上與人類能力相關(guān)的任務(wù)的能力。這個(gè)詞的起源可以追溯到20世紀(jì)50年代，斯坦福大學(xué)計(jì)算機(jī)科學(xué)家John McCarthy使用“人工智能”一詞來描述“制造智能機(jī)器的科學(xué)和工程”。對(duì)McCarthy而言，智力的標(biāo)準(zhǔn)是在不斷變化的環(huán)境中解決問題的能力。

自2022年以來，所謂的生成式人工智能工具的公開使用提高了該技術(shù)的知名度，如聊天機(jī)器人ChatGPT。生成式人工智能模型從大量訓(xùn)練數(shù)據(jù)中提取數(shù)據(jù)，根據(jù)特定提示生成統(tǒng)計(jì)上可能的結(jié)果。由此類模型支持的工具可生成類似人類的文本、圖像、音頻和其他內(nèi)容。

人工智能的另一種常用形式是通用人工智能(AGI)，或“強(qiáng)”人工智能，指的是能夠像人類一樣學(xué)習(xí)和應(yīng)用知識(shí)的系統(tǒng)。然而，這些系統(tǒng)尚不存在，專家們對(duì)它們究竟需要什么意見不一。

人工智能是如何發(fā)展的？

研究人員研究人工智能已有八十年歷史，數(shù)學(xué)家Alan Turing和John von Neumann被認(rèn)為是該學(xué)科的創(chuàng)始人之一。自從教授基本計(jì)算機(jī)二進(jìn)制代碼以來的數(shù)十年里，軟件企業(yè)已經(jīng)使用人工智能來為下棋計(jì)算機(jī)和在線語言翻譯器等工具提供支持。

在人工智能投資最多的國家，發(fā)展歷來依賴公共資金。在許多國家，人工智能研究主要由政府資助，而美國數(shù)十年來依靠國防高級(jí)研究計(jì)劃局(DARPA)和其他聯(lián)邦機(jī)構(gòu)。近年來，美國人工智能的發(fā)展很大程度上轉(zhuǎn)向了私營部門，私營部門為此投入了數(shù)千億美元。

2022年，美國總統(tǒng)拜登簽署了《芯片和科學(xué)法案》，該法案將美國政府的支出重新集中在技術(shù)研發(fā)上。該法案將2800億美元的聯(lián)邦支出用于半導(dǎo)體，這是一種能夠支持人工智能所需的大規(guī)模處理和數(shù)據(jù)存儲(chǔ)能力的先進(jìn)硬件。2023年1月，ChatGPT成為有史以來增長最快的消費(fèi)者應(yīng)用。

Eurasia Group總裁Ian Bremmer和Inflection AI首席執(zhí)行官M(fèi)ustafa Suleyman在《外交事務(wù)》雜志上寫道，人工智能的到來“標(biāo)志著一個(gè)大爆炸時(shí)刻，一場改變世界的技術(shù)革命的開始，這場革命將重塑政治、經(jīng)濟(jì)和社會(huì)。”

人工智能會(huì)對(duì)全球經(jīng)濟(jì)產(chǎn)生什么影響？

世界各地的企業(yè)和組織已經(jīng)將人工智能工具應(yīng)用到其產(chǎn)品中。Tesla等無人駕駛汽車制造商多年來一直在使用人工智能，依賴算法模型進(jìn)行某些交易操作的投資銀行，以及使用算法投放定向廣告的技術(shù)企業(yè)也是如此。但在ChatGPT出現(xiàn)后，即使是不太注重技術(shù)的企業(yè)也開始轉(zhuǎn)向生成式人工智能工具來實(shí)現(xiàn)客戶服務(wù)等系統(tǒng)的自動(dòng)化。在McKinsey于2023年4月進(jìn)行的一項(xiàng)調(diào)查中，全球三分之一的企業(yè)聲稱正在以某種方式使用人工智能。

人工智能的廣泛應(yīng)用可以加速全面的技術(shù)創(chuàng)新。半導(dǎo)體產(chǎn)業(yè)已經(jīng)蓬勃發(fā)展；在全球?qū)Π雽?dǎo)體需求飆升的情況下，生產(chǎn)大部分人工智能芯片的Nvidia的股價(jià)在2023年增長了兩倍多，總估值超過1萬億美元。

許多專家預(yù)計(jì)，隨著人工智能行業(yè)的發(fā)展，全球經(jīng)濟(jì)將受益匪淺，預(yù)計(jì)未來十年全球國內(nèi)生產(chǎn)總值(GDP)每年將增加7萬億美元。

人工智能會(huì)取代人類的工作嗎?

與歷史上許多其他大規(guī)模技術(shù)變革一樣，人工智能可能導(dǎo)致生產(chǎn)力提高和失業(yè)之間的權(quán)衡。但與之前的突破不同，這些突破主要消除了低技能的工作，生成式人工智能可能會(huì)使白領(lǐng)工作面臨風(fēng)險(xiǎn)，并且可能比以往任何時(shí)候都更快地取代許多行業(yè)的工作。經(jīng)濟(jì)合作與發(fā)展組織(OECD)稱，全球四分之一的工作崗位極有可能被人工智能自動(dòng)化取代。Pew Research Center的一項(xiàng)研究發(fā)現(xiàn)，這些工作往往依賴于生成式人工智能能夠以與人類工人類似的質(zhì)量水平完成的任務(wù)，比如信息收集和數(shù)據(jù)分析?！案叨缺┞丁北蝗斯ぶ悄苋〈墓ぷ魅藛T包括會(huì)計(jì)師、網(wǎng)絡(luò)開發(fā)人員、營銷專業(yè)人員和技術(shù)作家。

經(jīng)合組織(OECD)表示，生成式人工智能的興起也引發(fā)了人們對(duì)不平等的擔(dān)憂，因?yàn)榧夹g(shù)含量最高的工作似乎是最安全的，不會(huì)受到與該技術(shù)相關(guān)的干擾。但其他分析表明，低技能工人可以通過利用人工智能工具提高生產(chǎn)力而受益：麻省理工學(xué)院(MIT)和斯坦福大學(xué)的研究人員在2023年進(jìn)行的一項(xiàng)研究發(fā)現(xiàn)，在兩組人員開始使用人工智能后，經(jīng)驗(yàn)不足的呼叫中心操作員的工作效率提高了一倍。

人工智能將如何影響氣候變化？

人工智能與環(huán)境的關(guān)系既預(yù)示著危險(xiǎn)，也預(yù)示著希望。雖然一些專家認(rèn)為，生成式人工智能可以促進(jìn)應(yīng)對(duì)氣候變化的突破，但也有人對(duì)這項(xiàng)技術(shù)的巨大碳足跡提出了警告。其巨大的處理能力需要能源密集型的數(shù)據(jù)中心；這些系統(tǒng)已經(jīng)產(chǎn)生了相當(dāng)于航空業(yè)的溫室氣體排放量，而且人工智能的能源消耗只會(huì)隨著未來的進(jìn)步而增加。

人工智能倡導(dǎo)者認(rèn)為，開發(fā)商可以使用可再生能源來減少部分排放。Apple、Google和Meta等科技企業(yè)使用自產(chǎn)的可再生能源運(yùn)行數(shù)據(jù)中心，并且還購買所謂的碳信用額來抵消排放避免任何依賴化石燃料的能源使用。

人們還希望人工智能可以通過加強(qiáng)對(duì)可再生能源的研究，和使用先進(jìn)的數(shù)據(jù)分析來優(yōu)化能源效率，從而幫助減少其他行業(yè)的排放。此外，人工智能還可以改善氣候適應(yīng)措施。例如，莫桑比克的科學(xué)家正在利用這項(xiàng)技術(shù)更好地預(yù)測(cè)洪水模式，加強(qiáng)對(duì)即將發(fā)生的災(zāi)害的預(yù)警系統(tǒng)。

人工智能與國家安全有什么關(guān)系？

許多專家認(rèn)為，人工智能的發(fā)展是美國和中國之間爭奪技術(shù)主導(dǎo)地位的斗爭。他們認(rèn)為，這場競爭的獲勝者將獲得經(jīng)濟(jì)和地緣政治優(yōu)勢(shì)。到目前為止，美國的政策制定者似乎都是在這個(gè)框架下運(yùn)作的。2022年，拜登以國家安全為由，禁止向中國出口最強(qiáng)大的半導(dǎo)體，并鼓勵(lì)美國盟友也這樣做。一年后，拜登提議徹底禁止美國對(duì)中國人工智能領(lǐng)域的多項(xiàng)投資，商務(wù)部宣布了一系列新的限制措施，旨在遏制中國“人工智能的突破”。大多數(shù)專家認(rèn)為，迄今為止，美國在人工智能發(fā)展方面已經(jīng)超過了中國，但中國將很快縮小差距。

人工智能還可能對(duì)美國國家安全產(chǎn)生更直接的影響：美國國防部預(yù)計(jì)，這項(xiàng)技術(shù)將通過增強(qiáng)自主武器權(quán)力和改善戰(zhàn)略分析，改變“戰(zhàn)爭的本質(zhì)”。一些專家已經(jīng)推動(dòng)禁止自主致命武器。在烏克蘭與俄羅斯的戰(zhàn)爭中，基輔正在部署自主操作的人工智能無人機(jī)，這是首次在一場重大沖突中使用這種技術(shù)。交戰(zhàn)各方也可能很快依賴人工智能系統(tǒng)來加速戰(zhàn)場決策或自動(dòng)攻擊敵方基礎(chǔ)設(shè)施。一些專家擔(dān)心這些能力可能會(huì)增加使用核武器的可能性。

此外，人工智能可能會(huì)加劇虛假信息和宣傳的雙重威脅，隨著世界即將迎來比以往任何時(shí)候都多的人投票的一年，這一問題變得尤為重要：70多個(gè)國家(占全球人口的一半)將在2024年舉行全國選舉。生成式人工智能工具正在使深度造假變得更容易，而且這項(xiàng)技術(shù)已經(jīng)出現(xiàn)在全球各地的競選活動(dòng)中。專家們還指出，不良行為者可能會(huì)利用人工智能創(chuàng)建復(fù)雜的網(wǎng)絡(luò)釣魚嘗試，這些釣魚嘗試是根據(jù)目標(biāo)的利益量身定制的，以獲取對(duì)選舉系統(tǒng)的訪問權(quán)限。從歷史上看，網(wǎng)絡(luò)釣魚一直是潛在選舉黑客進(jìn)入這些系統(tǒng)的一種方式。據(jù)美國司法部稱，俄羅斯曾使用該方法干預(yù)2016年美國大選。

通用人工智能（AGI）會(huì)存在嗎？

一些專家表示，稱人工智能為“智能”尚不準(zhǔn)確，因?yàn)槠洳簧婕叭祟愃降耐评?。專家認(rèn)為，其并沒有創(chuàng)造新的知識(shí)，而是將現(xiàn)有的信息聚合起來，并以一種易于理解的方式呈現(xiàn)出來。

但這種情況可能會(huì)改變。ChatGPT背后的OpenAI是一家非營利組織，致力于確保AGI造?！罢麄€(gè)人類”，其聯(lián)合創(chuàng)始人Sam Altman表示停止AGI的發(fā)展是“不可能或不可取的”；2023年，Google DeepMind首席執(zhí)行官Demis Hassabis表示AGI可能會(huì)在五年內(nèi)到來。包括CFR高級(jí)研究員Sebastian Mallaby在內(nèi)的一些專家認(rèn)為，人工智能在某些任務(wù)上已經(jīng)超越了人類的智能水平。2020年，DeepMind利用人工智能解決了蛋白質(zhì)折疊問題，這在當(dāng)時(shí)被廣泛認(rèn)為是最復(fù)雜、未解之謎之一。

人工智能會(huì)導(dǎo)致人類滅絕嗎？

許多人工智能專家似乎都這么認(rèn)為。2023年5月，數(shù)百名人工智能領(lǐng)導(dǎo)者，包括Anthropic、Google DeepMind和OpenAI的首席執(zhí)行官，簽署了一封簡短的信，其中寫道：“減輕人工智能帶來的滅絕風(fēng)險(xiǎn)，應(yīng)該與流行病和核戰(zhàn)爭等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一樣，成為全球的優(yōu)先事項(xiàng)?！?/p>

關(guān)于滅絕如何發(fā)生的一個(gè)流行理論假設(shè)，優(yōu)化某項(xiàng)任務(wù)的指令可能會(huì)導(dǎo)致超級(jí)智能人工智能通過轉(zhuǎn)移人類生存所需的資源來實(shí)現(xiàn)其目標(biāo)。例如，負(fù)責(zé)減少海洋中有害藻類數(shù)量的人工智能，可能會(huì)吸收大氣中的氧氣，導(dǎo)致人類窒息。雖然許多人工智能研究人員認(rèn)為這一理論是危言聳聽，但其他人表示，這個(gè)例子準(zhǔn)確地說明了強(qiáng)大的人工智能系統(tǒng)在執(zhí)行其指令的過程中，可能造成巨大的、無意的傷害的風(fēng)險(xiǎn)。

這場辯論的懷疑論者認(rèn)為，關(guān)注如此遙遠(yuǎn)的存在風(fēng)險(xiǎn)會(huì)混淆更直接的威脅，例如獨(dú)裁監(jiān)視或有偏見的數(shù)據(jù)集。世界各地的政府和企業(yè)都在擴(kuò)展面部識(shí)別技術(shù)，一些分析人士擔(dān)心，北京方面正在利用人工智能加強(qiáng)鎮(zhèn)壓。當(dāng)人工智能訓(xùn)練數(shù)據(jù)包含過多或過少的元素時(shí)，就會(huì)出現(xiàn)另一個(gè)風(fēng)險(xiǎn)。根據(jù)此類數(shù)據(jù)訓(xùn)練的工具可能會(huì)產(chǎn)生偏差的結(jié)果。這可能會(huì)加劇對(duì)邊緣群體的歧視，例如當(dāng)人工智能驅(qū)動(dòng)的租戶篩選算法根據(jù)有偏見的數(shù)據(jù)進(jìn)行訓(xùn)練時(shí)，會(huì)不成比例地拒絕向有色人種提供住房。生成式人工智能工具還可以促進(jìn)混亂的公共話語——“幻覺”聊天機(jī)器人將虛假信息呈現(xiàn)為真實(shí)的信息，或者用可疑的人工智能生成的結(jié)果污染搜索引擎。

政府在人工智能方面做了什么？

幾乎所有政策制定者、民間社會(huì)領(lǐng)袖、學(xué)者、獨(dú)立專家和行業(yè)領(lǐng)袖都同意應(yīng)該治理人工智能，但對(duì)于如何治理，卻意見不一。在國際上，各國政府正在采取不同的方法。

美國在2023年加強(qiáng)了對(duì)人工智能的管理。拜登政府繼其2022年的《人工智能權(quán)利法案》之后，宣布了一項(xiàng)承諾十五家領(lǐng)先技術(shù)企業(yè)自愿采用人工智能安全共同標(biāo)準(zhǔn)[PDF]，包括提供其前沿模型供政府審查。2023年10月，拜登發(fā)布了一項(xiàng)內(nèi)容廣泛的行政命令，旨在為整個(gè)行政部門安全使用人工智能制定統(tǒng)一的框架。一個(gè)月后，兩黨參議員小組提出了管理這項(xiàng)技術(shù)的立法。

歐盟立法者正在推進(jìn)立法，引入透明度要求，并限制人工智能用于監(jiān)控目的。然而，一些歐盟領(lǐng)導(dǎo)人對(duì)該法律可能阻礙歐洲創(chuàng)新表示擔(dān)憂，并對(duì)如何執(zhí)行該法律提出疑問。

一些政府已尋求在國際層面上合作監(jiān)管人工智能。在2023年5月的七國集團(tuán)(G7)峰會(huì)上，該集團(tuán)啟動(dòng)了所謂的廣島進(jìn)程，以制定人工智能治理的共同標(biāo)準(zhǔn)。2023年10月，聯(lián)合國成立了人工智能咨詢委員會(huì)，其中包括美國和中國代表，以協(xié)調(diào)全球人工智能治理。接下來的一個(gè)月，28個(gè)國家的政府參加了在英國舉行的首屆人工智能安全峰會(huì)。包括美國和中國特使在內(nèi)的代表簽署了一份聯(lián)合聲明，警告人工智能可能造成“災(zāi)難性”傷害，并決心共同努力“確保以人為本、值得信賴和負(fù)責(zé)任的人工智能”。中國還宣布了自己在“一帶一路”倡議國家的人工智能全球治理努力。

人工智能治理應(yīng)該是什么樣子？

CFR高級(jí)研究員Kat Duffy表示，人工智能的復(fù)雜性使得這項(xiàng)技術(shù)不太可能受任何一套原則的約束。提案涵蓋了從全面自我監(jiān)管，到各種類型的公共政策護(hù)欄等多種潛在監(jiān)督級(jí)別的政策選擇。

一些分析人士承認(rèn)，人工智能的風(fēng)險(xiǎn)會(huì)帶來不穩(wěn)定的后果，但其認(rèn)為這項(xiàng)技術(shù)的發(fā)展應(yīng)該繼續(xù)進(jìn)行。其表示，監(jiān)管機(jī)構(gòu)應(yīng)該對(duì)計(jì)算能力或計(jì)算能力加以限制，因?yàn)樵谶^去十年中，計(jì)算機(jī)的計(jì)算能力增長了50億倍，允許模型在響應(yīng)人類提示時(shí)整合更多的訓(xùn)練數(shù)據(jù)。其他人則表示，治理應(yīng)該關(guān)注眼前的問題，比如提高公眾對(duì)人工智能的認(rèn)識(shí)，創(chuàng)建道德的人工智能系統(tǒng)，包括防止歧視、錯(cuò)誤信息和監(jiān)視。

一些專家呼吁限制開源模型，這可能會(huì)增加對(duì)技術(shù)的訪問，包括不良行為者。許多國家安全專家和領(lǐng)先的人工智能企業(yè)都支持這樣的規(guī)定。然而，一些觀察人士警告稱，廣泛的限制可能會(huì)導(dǎo)致最大的人工智能企業(yè)在成本高昂的行業(yè)中鞏固自己的實(shí)力，從而減少競爭和創(chuàng)新。與此同時(shí)，還有建議建立一個(gè)全球框架來管理人工智能的軍事用途；其中一種方法將效仿管理核技術(shù)的國際原子能機(jī)構(gòu)。

人工智能的下一步是什么？

中美關(guān)系對(duì)人工智能治理的影響很大：隨著北京追求一項(xiàng)旨在到2030年使中國成為“人工智能理論、技術(shù)和應(yīng)用”的全球領(lǐng)導(dǎo)者的國家戰(zhàn)略，華盛頓的政策制定者正在努力為人工智能發(fā)展設(shè)置護(hù)欄，同時(shí)又不損害美國的技術(shù)優(yōu)勢(shì)。

與此同時(shí)，人工智能技術(shù)正在快速發(fā)展。自2012年以來，計(jì)算能力每3、4個(gè)月翻一番，人工智能科學(xué)家預(yù)計(jì)，到2025年，模型的計(jì)算量將增加一百倍。

在缺乏強(qiáng)有力的全球治理的情況下，控制人工智能發(fā)展的企業(yè)正在行使通常只屬于民族國家的權(quán)力，開創(chuàng)了一個(gè)技術(shù)極世界秩序。這些企業(yè)已經(jīng)成為“自己的地緣政治參與者”，因此需要參與任何全球規(guī)則的設(shè)計(jì)。

人工智能的變革潛力意味著風(fēng)險(xiǎn)很高。如果有適當(dāng)?shù)谋Ｕ洗胧斯ぶ悄芟到y(tǒng)可以促進(jìn)科學(xué)發(fā)現(xiàn)，治愈致命疾病，抵御氣候變化的最壞影響，并開創(chuàng)一個(gè)全球經(jīng)濟(jì)繁榮的時(shí)代。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。