MIT技術評論：Facebook想用AI消除仇恨言論，首先要解決這3個問題

• 本文來自微信公眾號【AI商業(yè)報道】
  

高層速讀

關鍵信息：扎克伯格在國會聽證時表示，F(xiàn)acebook將越來越依賴人工智能來捕捉在該平臺上傳播的仇恨言論。但要做到這一點并不容易，原因有三：文字含義巨大；利用AI工具逃避AI檢測；假視頻入局加大難度。

關鍵數(shù)據(jù)：目前Facebook有15000名審核員，到年底預計增至20000人。

關鍵意義：人工智能研究人員已經(jīng)開始著手解決假新聞和假視頻識別問題，但建立一個這樣的系統(tǒng)比較困難。

馬克?扎克伯格在美國國會聽證時表示，Facebook將越來越依賴人工智能來捕捉在該平臺上傳播的仇恨言論。

“我樂觀地認為，在5到10年的時間里，我們將會有一些人工智能工具，能夠在不同類型內(nèi)容的語言差異中獲得更準確的信息，”這位Facebook的首席執(zhí)行官說。他被要求在劍橋分析公司盜用8700萬用戶個人數(shù)據(jù)的丑聞后作證。

扎克伯格表示，F(xiàn)acebook已經(jīng)雇傭了15,000名審核員來篩選和刪除攻擊性內(nèi)容，并計劃在今年年底前再招聘5,000名審核員。但現(xiàn)在，審核員只能操作Facebook用戶已經(jīng)標記的攻擊性帖子，相反，使用人工智能來識別潛在的攻擊性內(nèi)容不僅速度更快，而且更容易刪除不良內(nèi)容。

但要做到這一點并不容易，MIT技術評論說道，原因有三個：

文字雖短，含義巨大

語言理解對人工智能來說仍然是一個巨大的挑戰(zhàn)。計算機捕捉關鍵字或短語對文本的情感進行分類是很容易的，但理解文章的意義需要更深入的了解這個世界。

語言能成為一種強大而復雜的交流方式，在于它依賴于常識和知識，我們可以將大量的信息打包成幾個關鍵詞，而AI無法完全識別。

“比如說假新聞，這將會非常困難” 紐約大學教授 Ernest Davis說道，他是研究計算機常識推理的專家，“因為假新聞往往是半真半假的。”

利用AI工具逃避AI檢測

“即使在自然語言理解方面取得了進展，仇恨和錯誤信息的提供者也可以采用一些相同的工具來逃避檢測。”Primer公司首席執(zhí)行官Sean Gourley警告說，該公司利用人工智能技術，為美國情報機構生成報告。

最近在麻省理工學院的一次科技評論活動上， Gourley說，人工智能也將會不可避免地被用于大規(guī)模生產(chǎn)有針對性和優(yōu)化過的假新聞。

假視頻入局，難度加大

事實上，我們已經(jīng)處在了一個虛假新聞時代的開始。研究人員已經(jīng)展示了由機器學習合成的視頻和音頻，包括讓政客們發(fā)表從未發(fā)生過的演講。以及軟件合成虛假色情視頻。

人工智能研究人員已經(jīng)開始著手解決這個問題，但這樣的假視頻對人工智能來說尤其困難。它們是通過兩個神經(jīng)網(wǎng)絡來產(chǎn)生的，它們相互競爭產(chǎn)生和發(fā)現(xiàn)假圖像。這個過程依賴于欺騙一個網(wǎng)絡，讓他們認為某件事是真實的。所以建立一個能夠捕捉到假新聞和假視頻的系統(tǒng)目前比較困難。

• 微信內(nèi)搜索并關注公眾號[AI商業(yè)報道]，獲得人工智能領域第一手商業(yè)資訊
  

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。