如何識別直播殺人 我們需要對AI多一些思考

雷鋒網(wǎng)(公眾號：雷鋒網(wǎng))按：在北京時間今天凌晨開幕的 Facebook 年度開發(fā)者大會 F8 上，創(chuàng)始人扎克伯格在開幕演講中，向 Facebook 直播謀殺的受害者表達了慰藉。此事在網(wǎng)絡上傳播甚廣，其中一個爭議的焦點是 Facebook 在事發(fā)兩小時后才將視頻移除。在直播和各類視頻內(nèi)容爆炸的年代，及時識別出用戶上傳的不良內(nèi)容，同時又不損害用戶體驗，成為各大平臺面臨的一道技術(shù)難題。針對這個問題，人工智能成為良策，但現(xiàn)在也沒有達到完美，國外媒體 Wired 就撰文進行了分析，雷鋒網(wǎng)對文章進行了編譯。AI 能做些什么？" />

上周日，Steve Stephens 在 Facebook 上傳了一個 57 秒視頻，視頻中他殺害了一名男子后自殺。該視頻在他的 Facebook 主頁上掛了兩個小時后才被 Facebook 識別后刪除。但是這兩個小時已經(jīng)足夠讓數(shù)千人在 Facebook 上分享這個視頻，讓各種第三方網(wǎng)站下載該視頻并重新上傳給他們的用戶。

整個事件重新燃起了一項關(guān)于社交媒體的激烈辯論：社交媒體公司究竟應該怎么做才可以防止他們的網(wǎng)頁上出現(xiàn)不良內(nèi)容？并且，一旦不良內(nèi)容出現(xiàn)，就無法避免它被保存和傳播到網(wǎng)絡的各個角落。所以社交媒體企業(yè)應該如何將不良內(nèi)容直接扼殺在搖籃里？

防止一個視頻在網(wǎng)絡上公開的最佳方法就是在它第一次上傳時進行阻止。Facebook 可以通過很多步驟實現(xiàn)該方法，例如他可以堅持人工審查核準每一個視頻的上傳。但是這并不現(xiàn)實，因為這會使大批喜歡實時分享生活的用戶離開 Facebook，公司并不能承擔這樣的風險。

另一個方法是，F(xiàn)acebook 可以在不良視頻公布時立刻刪除它，但是這又會出現(xiàn)另一個問題：即時精準定位和刪除圖像材料在技術(shù)上還無法實現(xiàn)。技術(shù)算法還無法達到自動篩選并刪除的能力，而雇傭大量人員手動處理也并不現(xiàn)實。但如果 Facebook 授權(quán)算法直接刪除視頻，一定會發(fā)生不可避免的錯誤。就算是 Facebook 可以根據(jù)其服務條款給予算法這樣的權(quán)力，公司也會因為審查問題被指控。這樣的影響是巨大的，因為沒有人喜歡自己的視頻因為算法的錯誤而被刪除，而用戶的不信任問題也是 Facebook 根本無法承擔的風險。

因此，F(xiàn)acebook 目前采用的是多管齊下的解決方法。任務前端是 Facebook 的用戶，公司根據(jù)用戶對視頻的瀏覽和標記來跟蹤不良視頻。利用一些人工智能算法，挑選出潛在的不良視頻（如兒童色情等）。此類視頻被標記后，會送到 Facebook 的內(nèi)容審查部門，該部門有上萬人每天觀看數(shù)小時的視頻，人工決定視頻是否被刪除。這個系統(tǒng)還很不完善，但是目前，人工審查仍然比 AI 技術(shù)靠譜的多。

但是最終，AI 識別不良視頻會變得越來越有效，人類會與 AI 合作作業(yè)，而不是被AI 所代替。Facebook 人工智能搜索的主管 Yann LeCun 說：“我認為，只要有足夠的數(shù)據(jù)訓練，我們是可以實現(xiàn)這一技術(shù)的。”盡管他沒有回答周日殺人視頻的處理細節(jié)，但是他表示 Facebook 未來會做的更好。對 Facebook 來說，用 AI 實時監(jiān)控視頻，識別殺人兇手的技術(shù)完全可以實現(xiàn)，只是還不是現(xiàn)在。

上傳殺人視頻的Stephens

現(xiàn)在還不是時候

理想情況下，F(xiàn)acebook 可以這樣解決 Stephens 的視頻：當他第一次上傳說明他想要殺人的視頻時，AI 軟件就應該立即“看過”該視頻，并將它標為優(yōu)先級別。接著優(yōu)先級的標識會觸發(fā) Facebook 人工審核部門的警報，迅速開始人工審查視頻內(nèi)容，發(fā)現(xiàn)直接危害，刪除該視頻，關(guān)閉 Stephens 的賬號，通知有關(guān)部門。

但是現(xiàn)實并不是這樣。根據(jù) Facebook 全球運營副總裁 Justin Osofsky 昨天發(fā)表的聲明稱，最初上傳的視頻并沒有被標識，第二個視頻，也就是有謀殺者自己的視頻是在 Stephens 上傳超過一個半小時后才被標識了出來。Osofsky 說，只要有用戶將危險視頻標識出來，F(xiàn)acebook 的審查部門在23分鐘內(nèi)就可以將該視頻從網(wǎng)站中刪除。

但是問題仍然是，如何讓這個程序迅速反應立即處理。人工智能目前還無法識別出第一個視頻中的危險因素，甚至對第二個視頻中出現(xiàn)的謀殺者也無能為力。為了讓 AI 介入謀殺，AI 必須首先能夠處理 Stephen 的語言，分析他的語音語調(diào)，分辨他說到殺人時究竟是開玩笑還是真正想法。LeCun 說：“確實有這樣的技術(shù)，但是目前還不清楚將該技術(shù)整合進深度學習框架中后是否還能有效率的運行。并且由于缺乏人類的常識，這種系統(tǒng)會犯低級錯誤。”

Facebook 明白 AI 必須學習這個技術(shù)，所以公司在這方面投入巨大。LeCun 的團隊是繼谷歌團隊后在該領域進行前沿研究的第二大團隊。他的團隊已經(jīng)開發(fā)了算法幫助計算機標識各種問題內(nèi)容，比如兒童色情、裸體、產(chǎn)權(quán)侵害問題等。去年秋季， Facebook 總裁扎克伯格在 WIRED 的采訪中說到，目前網(wǎng)絡上一半的標識都是由 AI 完成的，而非人工操作。“ 這是一個人類與 AI 并肩作戰(zhàn)的時代，AI 正在幫助人類解決超大體量的問題。同時，我們也在發(fā)展新技術(shù)，探討這種聯(lián)合可以做到什么。”

但即使扎克伯格現(xiàn)在已經(jīng)意識到了這一點，目前AI 與人工必須相互配合工作，Stephens 殺人視頻的例子正是一個鮮活的例子。本周二在舊金山的 F8 開發(fā)者會議上，扎克伯格直接回應了社會辯論：“我們要做的還很多。上周日的悲劇提醒著我們，我們會繼續(xù)努力，盡我們所能避免這樣的悲劇再次發(fā)生。”

訓練計算機識別暴力問題比識別裸體圖像要難得多，相當于識別假新聞的難度。這需要對背景線索和形式的復雜理解。

AI 可以做些什么？

因為 Facebook 需要大量時間來訓練其神經(jīng)網(wǎng)絡來規(guī)范化這個過程，所以目前階段，F(xiàn)acebook 需要改變其審查過程來應對危機。在視頻殺人事件發(fā)生后的聲明中，Osofsky 說：“在一系列恐怖事件發(fā)生后，我們正在改善上報流程，確保用戶可以盡快向我們報告網(wǎng)站中存在的危險視頻。”

這意味著 Facebook 將簡化加速優(yōu)先級別審查內(nèi)容的過程，增加更多人工審查員，使視頻審查過程更快。同時，人工審查員會繼續(xù)訓練 AI，但這需要花費大量時間，AI 需要大量暴力視頻的例子進行學習，才能有效地識別出危險視頻。所以第一件事情是收集足夠多得的正確標識的暴力視頻。這需要人工雇員不斷地瀏覽暴力視頻，標識暴力語言，這一過程將會比較漫長。

當考慮到 Facebook 的直播功能時，問題就更嚴重了。直播視頻更加難以控制，所以很多人直接建議 Facebook 關(guān)閉其直播功能。當然這是不現(xiàn)實的，F(xiàn)acebook 去年開發(fā)該功能的目的就是為了與其他直播網(wǎng)站相競爭，公司絕不會因此而放棄直播。另外，直播功能還引發(fā)了另一種形式的暴力事件。比如去年，黑人 Philando Castile 被警察射殺后，他的妻子用 Facebook 直播了射殺后的場景，還在直播中發(fā)出了全球范圍內(nèi)的求救信號。

Lehigh 大學傳媒專業(yè)副教授 Jeremy Littau 說：“無論是好是壞，即時視頻或直播視頻終將存在下去。Facebook 必須面對這個現(xiàn)實。”

不過，F(xiàn)acebook 可以像廣播式網(wǎng)絡的功能一樣，堅持對直播視頻進行一定的延遲處理。但那時正如上文所說，除非用人工或AI 來監(jiān)控所有視頻，否則延遲直播也不會起到太大作用。

然而，有一件 Facebook 可以實現(xiàn)的事就是，控制第三方從 Facebook 上下載視頻的過程(與 Instagram 做法類似)。這樣可以阻止如 Live Leak 的第三方網(wǎng)站獲取并再次傳播 Stephens 的暴力視頻。這樣的小調(diào)整至少可以避免不良視頻在其他地方再次上傳，進入互聯(lián)網(wǎng)的永久無法刪除的記憶。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。