今日頭條“靈犬”升級：“反低俗”的技術(shù)效能

這年頭，沒掉過標(biāo)題黨坑里的讀者不足以談“網(wǎng)”事。標(biāo)題黨玩的就是套路，博的就是眼球，以至于它已成了“過街老鼠”式的存在。

有人歸納他們的常用語，結(jié)果一列一大堆：男默女淚，震驚國人，驚天秘密，看后驚呆，千萬別吃，癌癥前兆，看后崩潰，差點(diǎn)喪命，最后警告，中國不忍了……有網(wǎng)友因此用標(biāo)題黨式段子諷刺標(biāo)題黨：震驚!原來標(biāo)題黨是這樣取標(biāo)題的，驚呆所有人!

但這些標(biāo)題黨今后也得收斂些了，因?yàn)樗鼈兒茈y蒙過“靈犬”的火眼金睛。

就在2月20日，今日頭條方面宣布，由其推出的國內(nèi)首款反低俗小程序“靈犬”全面升級——除了反色情低俗，新版“靈犬”還加入了反暴力謾罵和反標(biāo)題黨能力。這是“靈犬”上線近一年后迎來的首個(gè)重大更新版本。至此，“靈犬”的檢測服務(wù)，已經(jīng)覆蓋了主要的低俗低質(zhì)內(nèi)容類型。

“靈犬”的全面升級，對已成規(guī)模的內(nèi)容創(chuàng)作者而言，無疑是看得見的利好，這意味著他們對內(nèi)容的優(yōu)化有了更完備的參照系;對作為信息消費(fèi)者的海量用戶來說，也是熨帖人心的消息，這有助于減少“垃圾信息污染”。在“靈犬”已全面向社會開放的背景下，這也能帶動整個(gè)內(nèi)容行業(yè)質(zhì)量層次與健康度的提升。

“反低俗”已成內(nèi)容平臺治理領(lǐng)域的全球性議題

“人是技術(shù)的尺度”，技術(shù)當(dāng)為解決民眾的痛點(diǎn)而生。本質(zhì)上，脫胎于今日頭條反低俗算法模型的“靈犬”，在識別范圍上擴(kuò)充，瞄準(zhǔn)的也是紓解公眾的痛點(diǎn)。

“網(wǎng)友苦劣質(zhì)內(nèi)容久矣”，這不是什么揶揄。揆諸當(dāng)下，那些藏污納垢的低俗低質(zhì)內(nèi)容，既拉低了許多內(nèi)容平臺的質(zhì)地，也讓用戶們動輒覺得被“欺騙感情”“毒害心智”。

現(xiàn)實(shí)中，大量追腥獵奇逐臭的信息，都是想通過迎合原欲的方式引關(guān)注、博眼球，通過“尖叫效應(yīng)”去收割注意力資源。將人們的本能欲求導(dǎo)向正常的疏泄通道，當(dāng)然沒問題。問題是，這些低俗低質(zhì)內(nèi)容缺乏基本的價(jià)值觀介入，缺少公共理性的加載，到頭來，端上的也絕非什么補(bǔ)品，而是“摻了地溝油的毒雞湯”。

如果說，在內(nèi)容創(chuàng)業(yè)興起初始階段、內(nèi)容平臺生長初期，平臺內(nèi)容池的豐富，還需依靠低創(chuàng)作門檻、寬松審核機(jī)制和強(qiáng)力流量扶持去托起“風(fēng)口”，這類打著色情、暴力擦邊球的內(nèi)容會趁虛而入，那到了現(xiàn)階段，這樣的“野蠻生長”已很難為繼。

隨著內(nèi)容市場已從小森林變成大生態(tài)圈，人們的信息消費(fèi)層次漸次升級，監(jiān)管層面也已走出新業(yè)態(tài)管束力度與發(fā)展規(guī)模不適配的“不對稱監(jiān)管”狀態(tài)，平臺內(nèi)容供給側(cè)對準(zhǔn)的目標(biāo)從“量的增加”轉(zhuǎn)為“質(zhì)的提升”，內(nèi)容行業(yè)由粗放增長轉(zhuǎn)向精細(xì)化運(yùn)營，就成了必然。在此背景下，“反低俗”已成了各大內(nèi)容平臺必須正視的課題，也是內(nèi)容生產(chǎn)商無法回避的命題。

當(dāng)下，各大內(nèi)容平臺也都意識到了低俗低質(zhì)內(nèi)容的危害：那些劣質(zhì)內(nèi)容固然可以憑著嘩眾取寵獲得灰色流量，但它們自身是沒價(jià)值的，既無法固定高質(zhì)量的忠實(shí)受眾群，其弊害還會外溢——惑亂用戶心智，并侵蝕平臺價(jià)值，稀釋信息價(jià)值濃度。

公眾不是信息消“廢”者。當(dāng)內(nèi)容平臺上“劣幣”充斥、垃圾信息過載，勢必會抬高其有價(jià)值的信息獲取難度，損害其用戶體驗(yàn)，最終成為平臺自身的痛點(diǎn)，反噬其吸引力。

所以，內(nèi)容平臺遏制低俗低質(zhì)內(nèi)容，是在履行平臺治理責(zé)任，畢竟在“避風(fēng)港原則”下的平臺中立責(zé)任向“紅旗法則”下的主體責(zé)任轉(zhuǎn)換的形勢下，平臺方“守土有責(zé)”且責(zé)任分量正在變重;也是對平臺自身負(fù)責(zé)，之于這些平臺們，內(nèi)容是流量的源頭活水，涵養(yǎng)出了有質(zhì)量的內(nèi)容池，才能真正維系平臺的生命力。

也因如此，國內(nèi)外的大體量內(nèi)容平臺都在“反低俗”上不斷加碼，“反低俗”也成了內(nèi)容平臺治理領(lǐng)域的全球性議題。

“靈犬”能實(shí)現(xiàn)反低俗內(nèi)容審核流程的前置

拿國外的巨頭型社交平臺Facebook來說，自2016年8月起，F(xiàn)acebook就宣布打擊標(biāo)題黨，憑著AI對虛假新聞造謠網(wǎng)站加以識別，對內(nèi)容通過disputed flags的方式進(jìn)行標(biāo)注;并通過對NewsFeed功能算法的修改，箭頭直指標(biāo)題黨。而Google為打擊假新聞，“重寫搜索排名算法”，對具備誤導(dǎo)性、虛假和令人反感的文章進(jìn)行排名降級。

國內(nèi)的微信、微博等平臺在這方面也有動作。像微信官方就封禁及處理大量發(fā)送低俗類內(nèi)容的帳號，刪除無數(shù)的相關(guān)文章，還引進(jìn)了專業(yè)的第三方辟謠機(jī)構(gòu)，建立了“洗稿”投訴審核體系;微博則在對內(nèi)容人工識別外，借助“外腦外力”建立了微博監(jiān)督員機(jī)制和謠言粉碎機(jī)，并在推薦算法中增加權(quán)威媒體的權(quán)重，以確保優(yōu)質(zhì)內(nèi)容優(yōu)先呈現(xiàn)。

作為智能分發(fā)的先行者、致力于打造基礎(chǔ)設(shè)施最完備的內(nèi)容平臺，今日頭條在打擊低俗低質(zhì)內(nèi)容方面也不遑多讓。無論是與國外高校聯(lián)合成立的“AI反謠言研究聯(lián)盟”，是通過信息自動抓取和語義學(xué)習(xí)等技術(shù)、自動謠言識別模型，以打造反謠言全球技術(shù)平臺，還是建立“網(wǎng)絡(luò)安全委員會”，數(shù)千名審核編輯把關(guān)與人臉識別、活體檢測技術(shù)、動態(tài)關(guān)鍵幀技術(shù)、圖像建模識別技術(shù)和OCR識別技術(shù)結(jié)合，都是錨定“反低俗”的靶向發(fā)力。

而“靈犬”的推出，更是內(nèi)容平臺治理的觀念迭代與方式進(jìn)階。“靈犬”是向用戶開放的，用戶可在檢測框內(nèi)輸入文章標(biāo)題或鏈接，“靈犬”就能進(jìn)行提取、分詞和語義識別，根據(jù)算法規(guī)則，輸出對應(yīng)的分?jǐn)?shù)、評級和結(jié)論。這結(jié)果包括，文章是否可以獲得推薦，是否需引入人工判斷等。創(chuàng)作者可根據(jù)反低俗模型給出的鑒定結(jié)果，來修改文章或標(biāo)題，以獲得更多推薦。

慮及今日頭條等平臺實(shí)行的是OGC、PGC、UGC并行的內(nèi)容生產(chǎn)模式，“靈犬”對用戶的技術(shù)賦能與之結(jié)合，也能生成反低俗內(nèi)容審核前置的流程機(jī)制。也就是說，“靈犬”對色情、暴力內(nèi)容和標(biāo)題黨的篩查審核，能提至事前事中，很多低俗低質(zhì)內(nèi)容能在發(fā)布前就被“判死刑”。

比起當(dāng)下絕大多數(shù)平臺“舉報(bào)-受理”的事后監(jiān)管處理模式，“靈犬”發(fā)動創(chuàng)作者和用戶參與、匯聚網(wǎng)民力量，帶動反低俗內(nèi)容審核流程前移，本身就是一種“升級”。

“反低俗”別光靠人工，更要向技術(shù)要效能

“反低俗”的內(nèi)生動力是平臺責(zé)任感。去年，今日頭條CEO陳林在生機(jī)大會上表示，內(nèi)容生態(tài)要長遠(yuǎn)發(fā)展，平臺必須主動負(fù)起內(nèi)容管理的責(zé)任。今日頭條將對外開放更多技術(shù)模型，和行業(yè)一起提高平臺生態(tài)標(biāo)準(zhǔn)。

“靈犬”的對外開放、優(yōu)化迭代，正是今日頭條承擔(dān)“信息分發(fā)維度社會公共基礎(chǔ)設(shè)施”責(zé)任的體現(xiàn)。

幾乎可以預(yù)見，“靈犬”也能幫助更多平臺提高內(nèi)容質(zhì)量治理的效能，節(jié)省審核篩查成本——因?yàn)?ldquo;靈犬”反低俗靠的是技術(shù)能力，依托這樣的智能技術(shù)，那些低俗低質(zhì)信息會在傳播鏈條前端就被更快地截?cái)唷?/p>

值得一說的是，互聯(lián)網(wǎng)信息平臺傳統(tǒng)的“反低俗”手段，主要依靠人工審核，其準(zhǔn)確率雖然高，但對海量信息卻很難實(shí)現(xiàn)快速審核;而專業(yè)審核團(tuán)隊(duì)的擴(kuò)容，也很難完全趕上內(nèi)容總量指數(shù)級增長的速度。

今日頭條推出的“靈犬”，通過技術(shù)手段，比較高效地實(shí)現(xiàn)對虛假及低俗內(nèi)容傳播的有效阻斷。同時(shí)配備專業(yè)的審核團(tuán)隊(duì)，做二次把關(guān)。

向技術(shù)要效能，人工、技術(shù)手段有效結(jié)合，“人機(jī)結(jié)合”自然也能織密“反低俗”網(wǎng)絡(luò)，提高內(nèi)容質(zhì)量治理效率，更好地凈化內(nèi)容生態(tài)。事實(shí)上，也只有Pass掉那些低俗低質(zhì)信息，信息才能真正創(chuàng)造社會價(jià)值。

說到底，這個(gè)社會需要有價(jià)值的信息供給，而非低俗低質(zhì)內(nèi)容“濫竽充數(shù)”。而“靈犬”的對外公開與技術(shù)升級，也是以廣譜賦能，帶動整個(gè)行業(yè)平臺治理能力的提升。這對清朗網(wǎng)絡(luò)空間與清正信息環(huán)境的營造，對公眾免受“低俗信息荼毒”權(quán)利的保障，顯然都大有裨益。司馬徒(媒體人)

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。