人工智能"創(chuàng)造"語(yǔ)言不可怕 這三點(diǎn)才是令人擔(dān)心的

在過去的幾周里，你可能看到過你的Facebook好友分享過這樣一篇文章，內(nèi)容是關(guān)于一對(duì)由人工智能驅(qū)動(dòng)的Facebook聊天機(jī)器人是如何偏離他們最初設(shè)定的程序，并發(fā)明自己的語(yǔ)言的。

關(guān)鍵是：Facebook創(chuàng)建了兩個(gè)人工智能聊天程序，可以相互交談（并互相學(xué)習(xí)），最終他們停止了用英語(yǔ)交流，并開始用一種非英語(yǔ)的語(yǔ)言進(jìn)行交流，這些語(yǔ)言是它們自己“發(fā)明的”。

新聞?lì)^版紛紛報(bào)道了這一事件，從奪人眼球的噱頭到抽絲剝繭的分析，如每日電訊報(bào)的“聊天機(jī)器人發(fā)明新語(yǔ)言進(jìn)行溝通Facebook被迫選擇關(guān)閉”，讓人聽起來像是這些聊天機(jī)器人正在密謀反抗人類，或是對(duì)人類構(gòu)成威脅。隨便看看這些新聞底下的評(píng)論，你就會(huì)發(fā)現(xiàn)大家的反應(yīng)有恐懼、興奮甚至高興，有人說道“這一天終于來了”或引用其他艾薩克·阿西莫夫小說中的語(yǔ)句。

但正如Facebook人工智能部的艾特魯夫巴特拉周一指出的那樣，幾十年來，人工智能一直在“發(fā)明”新的溝通方式，所以這其實(shí)算不上新聞。此外，他還解釋說，與新聞標(biāo)題相反的是，這個(gè)實(shí)驗(yàn)并沒有被關(guān)閉，只是為了調(diào)整語(yǔ)言交流而改變了。

此外，公司也沒有試圖隱瞞實(shí)驗(yàn)細(xì)節(jié)。所有的一切都是公開的，所有的細(xì)節(jié)都可以在GitHub上查到，允許其他程序員復(fù)制這個(gè)場(chǎng)景。

底線是：在人工智能方面，新的人工智能語(yǔ)言不該是我們擔(dān)心的問題。

下面才是我們應(yīng)該擔(dān)心的事情

像埃隆·馬斯克和比爾·蓋茨這樣的有技術(shù)頭腦的人已經(jīng)貢獻(xiàn)了大量的時(shí)間和金錢，來解釋人工智能是一種威脅，并尋找新的方法提高其道德水平。

這些才是我們應(yīng)該關(guān)注的主要領(lǐng)域：

武器：

武器軍用無人機(jī)已經(jīng)投入使用，自動(dòng)化武器被認(rèn)為是第三次戰(zhàn)爭(zhēng)革命。自動(dòng)化的智能武器讓更少的士兵受到傷害，而且遠(yuǎn)比戰(zhàn)斗機(jī)或核材料等先進(jìn)技術(shù)便宜。例如，當(dāng)前的“收割者”無人機(jī)價(jià)格約為1300萬(wàn)美元，而一架戰(zhàn)斗機(jī)的價(jià)格為1億美元。在未來，它們將變得更加廉價(jià)，而且不受監(jiān)管（也意味著極其強(qiáng)大）的移動(dòng)武器也將更加便宜，任何人都可以通過編程來殺死和摧毀對(duì)方（除非我們主動(dòng)采取安全措施）。

控制：

控制也許最重要的不是人工智能本身，而是誰(shuí)在控制它。我們正在應(yīng)對(duì)的是那些有能力重塑世界的力量，如果它們被貪婪的公司、渴求能源的國(guó)家、甚至是善意的個(gè)人所壟斷，這些人根本不知道自己在做什么，那么這項(xiàng)技術(shù)很容易被濫用或誤用。這就是為什么硅谷的一些影響者和人工智能研究人員聚集在一起，成立OpenAI，這是一項(xiàng)讓全世界都能使用人工智能的倡議，而不僅僅是一群特別的人。這一舉措并不“便宜”，據(jù)報(bào)道，該項(xiàng)目一位頂尖的人工智能研究人員的報(bào)價(jià)是其市場(chǎng)價(jià)值的兩到三倍。

發(fā)展：

人工智能的另一個(gè)問題是在不受參數(shù)控制的情況下，人工智能的發(fā)展速度。通用人工智能（AGI）具有指數(shù)級(jí)的成長(zhǎng)能力，因?yàn)樗鼘?huì)自我提升，并且在某一時(shí)刻會(huì)超過其創(chuàng)造者的智力。農(nóng)業(yè)時(shí)代延續(xù)了幾千年，工業(yè)時(shí)代延續(xù)了數(shù)百年，信息時(shí)代持續(xù)了幾十年，如今人工智能時(shí)代僅開始數(shù)年；技術(shù)的增長(zhǎng)持續(xù)加速而不是直線發(fā)展，而現(xiàn)在，任何進(jìn)一步的加速都會(huì)讓我們毫無準(zhǔn)備地應(yīng)對(duì)后果（如果我們采取被動(dòng)的態(tài)度，而不是積極的姿態(tài)）。我們還沒能創(chuàng)造出超級(jí)智能，但我們已經(jīng)掌握了處理能力——中國(guó)的天河2號(hào)每秒能計(jì)算34千萬(wàn)億次計(jì)算（cps），遠(yuǎn)超人類大腦（10千萬(wàn)億秒）。

如果我們想要負(fù)責(zé)任地運(yùn)用這種計(jì)算能力，我們需要有一個(gè)基礎(chǔ)來應(yīng)對(duì)它無限制的發(fā)展。這意味著要理解人工智能發(fā)展的倫理道德，如何限制它的使用，以及在出現(xiàn)問題時(shí)采用適當(dāng)?shù)姆雷o(hù)措施。

關(guān)于人工智能如何被使用以及未來如何發(fā)展，目前存在一些嚴(yán)重的擔(dān)憂。然而，過度地將被測(cè)試的系統(tǒng)個(gè)人化，或者被標(biāo)題誤導(dǎo)我們的觀點(diǎn)是不負(fù)責(zé)任的。聊天機(jī)器人發(fā)明一種新語(yǔ)言并不是威脅，它是順其自然的，還有其他更重要的事值得我們的注意。

（選自：venturebeat 作者：TonyTie 編譯：網(wǎng)易見外智能編譯平臺(tái) 審校：姜啟航）

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。