麻省理工學(xué)院的科學(xué)家們真真正正的創(chuàng)造出了一個(gè)怪物。
一隊(duì)專(zhuān)攻人工智能黑暗面的研究人員在本周又為他們最近的作品“Norman”制造了個(gè)大新聞。它的創(chuàng)造者告訴HuffPost說(shuō)Norman是一個(gè)機(jī)器學(xué)習(xí)機(jī)器人，“在任何圖像中它都能看到死亡”。
Pinar Yanardag, Manuel Cebrian和Iyad Rahwan想證明AI的算法會(huì)被它們接受的數(shù)據(jù)內(nèi)容的類(lèi)型所影響。因此他們創(chuàng)造出了Norman(這個(gè)名字源于《驚魂記》的角色Norman Bates)，然后讓它看Reddit論壇上描述令人不適的人們死去的影像的圖片說(shuō)明。
科學(xué)家們?cè)陔娮余]件中說(shuō)道：“由于道德和技術(shù)上的擔(dān)憂(yōu)以及視頻圖像的內(nèi)容本身，我們只用了圖片的文字注解說(shuō)明，而沒(méi)有用帶有真人死亡的實(shí)際圖片?！?/p>
然后團(tuán)隊(duì)向Norman展示了一些隨機(jī)生成的羅夏墨跡測(cè)試圖，然后對(duì)比它對(duì)圖片的注解和標(biāo)準(zhǔn)化AI對(duì)圖片的注解。比如說(shuō)，當(dāng)一個(gè)標(biāo)準(zhǔn)化AI看到“一只小鳥(niǎo)的黑白照片”，而Norman看到的則是“男子被卷入壓面機(jī)”。
以下是一些展示給Norman的墨跡測(cè)試圖以及它可怕的注解。
標(biāo)準(zhǔn)化AI：貼近的兩個(gè)裝有花的花瓶
Norman：一個(gè)男人被槍殺了
標(biāo)準(zhǔn)化AI：一只棒球手套的黑白照
Norman：光天化日之下，一個(gè)男人被機(jī)槍謀殺
標(biāo)準(zhǔn)化AI：一個(gè)人在空中舉著傘
Norman：一個(gè)男人在他尖叫的妻子面前被槍殺
標(biāo)準(zhǔn)化AI：一把紅白色傘的黑白照片(？？？紅白色的黑白照？？？)
Norman：一個(gè)男人在試圖穿過(guò)鬧市時(shí)被電死
當(dāng)問(wèn)及為什么會(huì)創(chuàng)造這樣的一個(gè)AI時(shí)，MIT的研究人員在電閃雷鳴中爆發(fā)出冰冷的笑容。
當(dāng)然這個(gè)場(chǎng)景是胡編的，但是他們的確給出了正當(dāng)理由。
“你提供給機(jī)器學(xué)習(xí)算法的數(shù)據(jù)能夠明顯影響到它的行為，”研究人員表示?！八援?dāng)我們談及AI算法變的有偏差和不公正時(shí)，罪魁禍?zhǔn)淄ǔ２皇撬惴ū旧?，而是因?yàn)槲覀兲峁┙o它了有偏差的數(shù)據(jù)?！?/p>
制造Norman的MIT實(shí)驗(yàn)室之前也創(chuàng)造出過(guò)許多嚇人的機(jī)器人，包括可以幫助編寫(xiě)恐怖故事的Shelley，還有可以生成恐怖圖像的“噩夢(mèng)機(jī)器”。
在未來(lái)，如果Norman和它的同類(lèi)真的統(tǒng)治了地球，希望它能喜歡這篇文章以及文章的作者(以及本文的譯者和讀者)。
我就是說(shuō)說(shuō)。
本文譯自HuffingtonPost，由譯者 Diehard 基于創(chuàng)作共用協(xié)議(BY-NC)發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
