人工智能"創(chuàng)造"語言不可怕 這三點才是令人擔(dān)心的

在過去的幾周里，你可能看到過你的Facebook好友分享過這樣一篇文章，內(nèi)容是關(guān)于一對由人工智能驅(qū)動的Facebook聊天機器人是如何偏離他們最初設(shè)定的程序，并發(fā)明自己的語言的。

關(guān)鍵是：Facebook創(chuàng)建了兩個人工智能聊天程序，可以相互交談（并互相學(xué)習(xí)），最終他們停止了用英語交流，并開始用一種非英語的語言進行交流，這些語言是它們自己“發(fā)明的”。

新聞頭版紛紛報道了這一事件，從奪人眼球的噱頭到抽絲剝繭的分析，如每日電訊報的“聊天機器人發(fā)明新語言進行溝通Facebook被迫選擇關(guān)閉”，讓人聽起來像是這些聊天機器人正在密謀反抗人類，或是對人類構(gòu)成威脅。隨便看看這些新聞底下的評論，你就會發(fā)現(xiàn)大家的反應(yīng)有恐懼、興奮甚至高興，有人說道“這一天終于來了”或引用其他艾薩克·阿西莫夫小說中的語句。

但正如Facebook人工智能部的艾特魯夫巴特拉周一指出的那樣，幾十年來，人工智能一直在“發(fā)明”新的溝通方式，所以這其實算不上新聞。此外，他還解釋說，與新聞標(biāo)題相反的是，這個實驗并沒有被關(guān)閉，只是為了調(diào)整語言交流而改變了。

此外，公司也沒有試圖隱瞞實驗細節(jié)。所有的一切都是公開的，所有的細節(jié)都可以在GitHub上查到，允許其他程序員復(fù)制這個場景。

底線是：在人工智能方面，新的人工智能語言不該是我們擔(dān)心的問題。

下面才是我們應(yīng)該擔(dān)心的事情

像埃隆·馬斯克和比爾·蓋茨這樣的有技術(shù)頭腦的人已經(jīng)貢獻了大量的時間和金錢，來解釋人工智能是一種威脅，并尋找新的方法提高其道德水平。

這些才是我們應(yīng)該關(guān)注的主要領(lǐng)域：

武器：

武器軍用無人機已經(jīng)投入使用，自動化武器被認為是第三次戰(zhàn)爭革命。自動化的智能武器讓更少的士兵受到傷害，而且遠比戰(zhàn)斗機或核材料等先進技術(shù)便宜。例如，當(dāng)前的“收割者”無人機價格約為1300萬美元，而一架戰(zhàn)斗機的價格為1億美元。在未來，它們將變得更加廉價，而且不受監(jiān)管（也意味著極其強大）的移動武器也將更加便宜，任何人都可以通過編程來殺死和摧毀對方（除非我們主動采取安全措施）。

控制：

控制也許最重要的不是人工智能本身，而是誰在控制它。我們正在應(yīng)對的是那些有能力重塑世界的力量，如果它們被貪婪的公司、渴求能源的國家、甚至是善意的個人所壟斷，這些人根本不知道自己在做什么，那么這項技術(shù)很容易被濫用或誤用。這就是為什么硅谷的一些影響者和人工智能研究人員聚集在一起，成立OpenAI，這是一項讓全世界都能使用人工智能的倡議，而不僅僅是一群特別的人。這一舉措并不“便宜”，據(jù)報道，該項目一位頂尖的人工智能研究人員的報價是其市場價值的兩到三倍。

發(fā)展：

人工智能的另一個問題是在不受參數(shù)控制的情況下，人工智能的發(fā)展速度。通用人工智能（AGI）具有指數(shù)級的成長能力，因為它將會自我提升，并且在某一時刻會超過其創(chuàng)造者的智力。農(nóng)業(yè)時代延續(xù)了幾千年，工業(yè)時代延續(xù)了數(shù)百年，信息時代持續(xù)了幾十年，如今人工智能時代僅開始數(shù)年；技術(shù)的增長持續(xù)加速而不是直線發(fā)展，而現(xiàn)在，任何進一步的加速都會讓我們毫無準(zhǔn)備地應(yīng)對后果（如果我們采取被動的態(tài)度，而不是積極的姿態(tài)）。我們還沒能創(chuàng)造出超級智能，但我們已經(jīng)掌握了處理能力——中國的天河2號每秒能計算34千萬億次計算（cps），遠超人類大腦（10千萬億秒）。

如果我們想要負責(zé)任地運用這種計算能力，我們需要有一個基礎(chǔ)來應(yīng)對它無限制的發(fā)展。這意味著要理解人工智能發(fā)展的倫理道德，如何限制它的使用，以及在出現(xiàn)問題時采用適當(dāng)?shù)姆雷o措施。

關(guān)于人工智能如何被使用以及未來如何發(fā)展，目前存在一些嚴(yán)重的擔(dān)憂。然而，過度地將被測試的系統(tǒng)個人化，或者被標(biāo)題誤導(dǎo)我們的觀點是不負責(zé)任的。聊天機器人發(fā)明一種新語言并不是威脅，它是順其自然的，還有其他更重要的事值得我們的注意。

（選自：venturebeat 作者：TonyTie 編譯：網(wǎng)易見外智能編譯平臺 審校：姜啟航）

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。