網(wǎng)易云安全（易盾）講述互聯(lián)網(wǎng)黑產(chǎn)那些事

“老司機(jī)上車”、“少婦誘惑直播”、“衤果聊”……如今網(wǎng)絡(luò)上充斥著此類具有挑逗性且易讓人想入非非的暗示語(yǔ)，看著很刺激，但刺激背后隱藏著看不見(jiàn)的黑手在推動(dòng)這些信息的傳播。

在移動(dòng)互聯(lián)網(wǎng)時(shí)代，用戶上網(wǎng)極度便利的當(dāng)下，色情內(nèi)容、垃圾評(píng)論、垃圾廣告、違禁品買賣、謠言、賭博等信息正無(wú)孔不入，滲透到各種互聯(lián)網(wǎng)產(chǎn)品，長(zhǎng)期危害著青少年心理健康及網(wǎng)民的用戶體驗(yàn)。那么這些互聯(lián)網(wǎng)垃圾信息的來(lái)源和盈利模式到底是怎么樣的呢?

無(wú)利不起早，有錢能使鬼推磨

“如果沒(méi)有利益驅(qū)使，不會(huì)有專門的團(tuán)伙來(lái)散播垃圾信息，亦無(wú)法形成一個(gè)成熟的產(chǎn)業(yè)鏈”，網(wǎng)易云安全(易盾)技術(shù)總監(jiān)朱浩齊用涉黃產(chǎn)業(yè)鏈舉了一個(gè)例子—— 一般來(lái)說(shuō)，涉黃團(tuán)伙希望通過(guò)網(wǎng)絡(luò)發(fā)布大量的廣告，吸引盡可能多的“客戶”來(lái)保證團(tuán)伙的利潤(rùn)，但是沒(méi)有一個(gè)正規(guī)的互聯(lián)網(wǎng)公司敢接他們的廣告業(yè)務(wù)。

“有錢能使鬼推磨”，看到諸如涉黃團(tuán)伙這類需求方出錢后，有一些打著“互聯(lián)網(wǎng)營(yíng)銷推廣”幌子的公司或者平臺(tái)就會(huì)出現(xiàn)，他們會(huì)分析需求方單子的技術(shù)難度。以發(fā)布涉黃廣告為例，如果想增加曝光率，那需要在熱門產(chǎn)品的熱門區(qū)域持續(xù)不斷發(fā)布評(píng)論。一般發(fā)布評(píng)論都需要注冊(cè)帳號(hào)，有些產(chǎn)品也會(huì)增加驗(yàn)證碼等作為發(fā)布評(píng)論的門檻，還有一些產(chǎn)品甚至要完成手機(jī)短信驗(yàn)證等等?！叭绻行枰邕^(guò)門檻的技術(shù)方案都由自己完成，那成本無(wú)疑是非常大的，于是所謂的‘互聯(lián)網(wǎng)營(yíng)銷推廣’公司就會(huì)找一些黑產(chǎn)下家來(lái)協(xié)助”，朱浩齊說(shuō)。

這些黑產(chǎn)下家五花八門且“業(yè)務(wù)”精細(xì)——有專門負(fù)責(zé)注冊(cè)帳號(hào)、提供IP資源的，有研發(fā)自動(dòng)發(fā)評(píng)論工具的，還有研發(fā)碼驗(yàn)證打碼平臺(tái)、完成短信驗(yàn)證的……接到需求的“互聯(lián)網(wǎng)營(yíng)銷推廣”平臺(tái)會(huì)把上述黑產(chǎn)環(huán)節(jié)集成起來(lái)，巧妙的利用這些黑產(chǎn)資源，滿足涉黃團(tuán)伙的需求，實(shí)現(xiàn)非法營(yíng)利。

苦情戲、軍情刺探，黑產(chǎn)無(wú)所不用其極

雖然黑產(chǎn)有資源也有技術(shù)，但是互聯(lián)網(wǎng)安全廠商與他們的斗爭(zhēng)并未停歇。據(jù)朱浩齊描述，網(wǎng)易云安全(易盾)在與黑產(chǎn)斗爭(zhēng)的過(guò)程中，遇到過(guò)不少奇葩有趣的案例。

中文作為世界上最復(fù)雜的語(yǔ)言之一，它的變化方式難以窮盡，拼音、字符、拆字、同音字等，都可以用來(lái)表達(dá)同樣的意思，比如“想看妹誘惑直播嘛”就可以變種為以下幾種形式：

“針對(duì)這些垃圾樣本，我們會(huì)采用機(jī)器學(xué)習(xí)的技術(shù)進(jìn)行訓(xùn)練，實(shí)現(xiàn)文本的語(yǔ)義識(shí)別，可以從內(nèi)容維度把絕大多數(shù)的垃圾都抓出來(lái)”，網(wǎng)易云安全(易盾)技術(shù)總監(jiān)朱浩齊說(shuō)。

不過(guò)，上述垃圾蟲大多在一個(gè)完整的輸入框中完成垃圾內(nèi)容的編輯和發(fā)布，雖然用了各種變種，但是整句話在語(yǔ)義上還是一體的，所以還算容易處理。但下圖中的垃圾蟲就進(jìn)化得高級(jí)一些，它能巧妙地適配產(chǎn)品表現(xiàn)形式，比如頭像、用戶名、簽名等，把想要表達(dá)的意思拆分為不同的部分，完整展現(xiàn)在普通用戶眼前。如果加上IP、帳號(hào)等不停變化，抓取的難度就會(huì)大大提升：

據(jù)朱浩齊介紹，為了從內(nèi)容角度對(duì)付這種垃圾蟲，網(wǎng)易云安全(易盾)設(shè)計(jì)了“所見(jiàn)即所得”的過(guò)濾系統(tǒng)和審核系統(tǒng)，真實(shí)地還原產(chǎn)品數(shù)據(jù)展示的形式，比如會(huì)把昵稱和評(píng)論內(nèi)容放在一起做語(yǔ)義分析，也會(huì)把頭像圖片經(jīng)過(guò)機(jī)器識(shí)別后跟評(píng)論內(nèi)容組合在一起審核。

為了逃避機(jī)器7*24小時(shí)不停歇的審查，黑產(chǎn)偶爾還會(huì)上演苦情戲：

有意思的是，在發(fā)現(xiàn)苦情戲不好使時(shí)，黑產(chǎn)團(tuán)伙會(huì)直接撥打平臺(tái)客服電話，表面裝作很生氣地投訴——“憑什么刪我貼”、“把你負(fù)責(zé)人叫過(guò)來(lái)”，實(shí)則是想從客服的嘴里刺探到平臺(tái)的一些防御策略，比如如何識(shí)別他們發(fā)布的內(nèi)容，如何才能申請(qǐng)帳號(hào)或者IP解封等。

黑產(chǎn)手段在進(jìn)化，網(wǎng)絡(luò)安全技術(shù)需實(shí)時(shí)演進(jìn)

隨著互聯(lián)網(wǎng)技術(shù)不斷進(jìn)步，用戶參與網(wǎng)絡(luò)進(jìn)行討論和獲取知識(shí)的門檻越來(lái)越低，用戶得到便利的同時(shí)，也給了垃圾蟲越來(lái)越多的可乘之機(jī)。

就拿最近火爆的直播行業(yè)為例，垃圾蟲可以在熱門直播平臺(tái)的各個(gè)角落里發(fā)布垃圾內(nèi)容：彈幕，評(píng)論，昵稱，頭像，簽名，用戶資料，有的還甚至直接參與違法直播的表演。

據(jù)了解，針對(duì)新的產(chǎn)品形態(tài)，為了有更好的防御效果，網(wǎng)易云安全(易盾)也適時(shí)推出了直播行業(yè)的解決方案，專門針對(duì)直播行業(yè)的各種特點(diǎn)定制防御策略。比如針對(duì)彈幕的實(shí)時(shí)聊天文本過(guò)濾、視頻流的機(jī)器鑒黃、直播間熱度監(jiān)控報(bào)警，以及更加智能的直播電視墻等等。

互聯(lián)網(wǎng)內(nèi)容安全的戰(zhàn)爭(zhēng)從網(wǎng)絡(luò)誕生之初開(kāi)始，已經(jīng)持續(xù)了幾十年?？梢灶A(yù)見(jiàn)，以后還會(huì)有新的互聯(lián)網(wǎng)產(chǎn)品形式，當(dāng)然也會(huì)有新的發(fā)布垃圾的手段?！拔覀?cè)谠朴?jì)算、深度學(xué)習(xí)、人工智能等技術(shù)方面已經(jīng)有很多實(shí)踐經(jīng)驗(yàn)和技術(shù)積累，我們有信心打贏每一場(chǎng)戰(zhàn)爭(zhēng)”，朱浩齊如是說(shuō)。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。