隨著智能手機等聯(lián)網(wǎng)設備逐漸普遍化，網(wǎng)絡已成為現(xiàn)代生活不可或缺的一部分，然而伴隨而來的網(wǎng)絡暴力更是四處泛濫。網(wǎng)絡暴力是一類在網(wǎng)絡上發(fā)表具有傷害性、侮辱性和煽動性的言語、圖片、視頻的行為現(xiàn)象，被稱之為“無形的殺手”，近年來導致自殺抑郁等心理摧殘的網(wǎng)絡暴力事件層出不窮。
面對泛濫的網(wǎng)絡暴力，Instagram正在采取行動反對其平臺上的欺凌行為。去年，Instagram推出了一個增強版的評論過濾器，該過濾器通過機器學習，能夠發(fā)現(xiàn)具有網(wǎng)絡暴力性質(zhì)的關鍵詞和語言。
隨著公眾對Facebook的信任度下降，Instagram仍然是該公司產(chǎn)品陣容的亮點，而且它還有可能被Facebook破壞的丑聞所波及。在這種情況下，使用人工智能來幫助清除令人反感的內(nèi)容，并讓Instagram成為一個擁有良好氛圍的家園是非常重要的。
現(xiàn)在，該公司正在擴大有關照片和字幕類似篩查的覆蓋范圍。最近，Instagram宣布它將使用AI“主動檢測欺凌性言語”，這是一種機器學習工具，用于檢測照片和字幕中的欺凌行為。如果人工智能工具認為照片不合適或不受歡迎，它會發(fā)送給Instagram社區(qū)運營團隊進行進一步審核然后再將內(nèi)容發(fā)送給人工審查。
去年在Wired發(fā)表的一篇報道解釋了Instagram的機器學習評論過濾器的一些細節(jié)，并確定這種技術不適用于內(nèi)容審核。大規(guī)模部署人工智能成本較低，但它仍然無法處理人類背景之下的細微差別，這就是為什么這些新的欺凌過濾器還需要向人工篩檢人員發(fā)送內(nèi)容以執(zhí)行最終檢查，沒有監(jiān)督的自動化是一種災難。
這個名為DeepText的系統(tǒng)基于人工智能系統(tǒng)和word embeddings的概念，旨在于模仿人類語言的理解方式。當系統(tǒng)解釋一個單詞時，它會嘗試以人腦識別單詞的方式，并結(jié)合語境來確定其含義。DeepText作為內(nèi)部工具構(gòu)建的，可以讓Facebook工程師快速分類大量文本，創(chuàng)建分類規(guī)則，然后構(gòu)建產(chǎn)品用以幫助用戶。
據(jù)Instagram發(fā)言人稱，人工智能工具會檢測字幕和評論中的欺凌行為，例如攻擊某人的外表或幸福。它還對圖像和字幕進行比較，排名和評級，以便在照片中發(fā)現(xiàn)欺凌行為，例如分屏圖像中某人的惡意比較。
并且Instagram還為直播視頻推出了欺凌評論過濾器。過濾器可以在直播期間檢測并阻止令人反感的單詞。Instagram已于5月推出了過濾器，用于Feed，Explore和Profile中的照片和視頻評論過濾。
Instagram表示，人工智能系統(tǒng)不只是分析照片標題來識別欺凌，還有照片本身。在向The Verge發(fā)表講話時，一位發(fā)言人舉例說明，人工智能正在尋找分屏圖像作為潛在欺凌的例子，因為一個人可能會與另一個人進行負面比較。人工智能將尋找的其他因素尚不清楚，但這可能是一個好主意，當Facebook宣布它將使用人工智能時，人們就立即開始考慮如何應對這些過濾器了。
Facebook和Twitter也推出了類似的舉措來限制其平臺上的欺凌行為。Twitter在去年十月制定了一個時間表，以便從其平臺中刪除裸露和仇恨圖像等內(nèi)容。本月早些時候，F(xiàn)acebook添加了一些工具，允許用戶一次隱藏或刪除多條評論，并允許用戶代表朋友或家人報告欺凌或騷擾。
除了新的過濾器，Instagram還推出了“善意的相機效果”，這聽起來像是一種傳播積極信息并能提高用戶參與度的方法。使用后置攝像頭時，效果會在屏幕上顯示“多種語言的親切評論”；切換到前置攝像頭，你會得到一絲閃亮的心和禮貌的鼓勵來“標記你想要的朋友”。
網(wǎng)絡是把鋒利的雙刃劍，當我們利用網(wǎng)絡拉近世界各地之間距離的同時，不也能忽視網(wǎng)絡“噴子”、“鍵盤手”的危害，這次instagram所做舉動，是否能為現(xiàn)今魚龍混雜的網(wǎng)絡環(huán)境帶來一股清流，是值得我們期待的。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
