半年搗毀25個黑產(chǎn)團伙 抖音是如何有效打擊黑產(chǎn)的？

12月1日消息，抖音今日在北京舉辦以平臺治理為主題的開放日，負責抖音平臺治理的抖音安全中心團隊首次對外亮相。

據(jù)介紹，抖音早在成立時就組建了安全運營團隊，后升級成為抖音安全中心，擁有安全運營、安全風控以及治理打擊等多個團隊，專門負責抖音平臺違法違規(guī)內(nèi)容與行為的治理工作。?

會上披露，抖音安全中心每天攔截處理的違法違規(guī)內(nèi)容、行為超過10億條，其中包括違規(guī)注冊、刷量、刷粉、點贊以及發(fā)布違規(guī)評論、視頻等多類內(nèi)容行為。

今年以來，抖音安全中心封禁色情導流和色情招嫖帳號超過100萬，僅9月份期間就封禁305248個帳號。在4月份開始的仿冒名人專項打擊中，已經(jīng)封禁黑產(chǎn)作弊賬號18萬多個，重置仿冒資料用戶6萬余個，處理問題視頻超過400多萬條。

開放日上，抖音安全中心還展現(xiàn)了針對平臺違法違規(guī)行為、內(nèi)容的聯(lián)動打擊進展，最近4個月，抖音安全中心已經(jīng)協(xié)助各地公安機關(guān)打擊涉嫌詐騙、色情的黑灰產(chǎn)團隊25個，刑事拘留87人。

那么，抖音是如何進行平臺治理的，又是如何與黑產(chǎn)進行對抗的？

技術(shù)+產(chǎn)品+運營綜合治理平臺違法違規(guī)行為

抖音安全中心負責人帥帥表示：“抖音安全中心一直堅持’提前發(fā)現(xiàn)、事先攔截、事中提醒、事后追擊’的平臺治理原則，通過技術(shù)手段、產(chǎn)品手段、運營手段治理平臺違法違規(guī)行為。同時，我們也會關(guān)注和研究學習黑灰產(chǎn)行業(yè)動態(tài)，不斷提升治理打擊技術(shù)能力，保障每一位抖音用戶的權(quán)益。”

在平臺違規(guī)內(nèi)容、行為的提前發(fā)現(xiàn)與攔截上，抖音采取平臺內(nèi)外配合的機制。

在內(nèi)部，抖音安全中心通過組建審核團隊，建立完善的審核標準、審核流程，提前對平臺上的違規(guī)內(nèi)容、行為進行攔截處理。同時建立日常巡檢機制，設立專項巡檢制度，通過客戶端實際檢測、后臺技術(shù)檢測等手段進行常規(guī)巡檢，配合審核團隊多渠道發(fā)現(xiàn)違規(guī)內(nèi)容、行為。?

與外部專業(yè)團隊和用戶的配合上，抖音安全中心一方面是邀請專業(yè)人士參與到平臺審核流程中，例如謠言審核工作中，會求證權(quán)威專家團保證判斷的準確性。另一方面，抖音安全中心也非常注重用戶反饋，提供了多種舉報渠道幫助用戶反饋信息，包括站內(nèi)舉報、郵箱舉報、違法和不良信息舉報電話、“啄木鳥舉報平臺”小程序等。截至2020年11月，“啄木鳥舉報平臺”小程序已經(jīng)累計處理用戶反饋的違法違規(guī)帳號159.5萬個。

帥帥表示：“實際上，相比平臺上用戶碰到的問題，抖音安全中心處理的問題相當于是海面下龐大的冰山，不僅是繁雜多樣，而且是反復多變的。尤其是近幾年，黑灰產(chǎn)團伙對新興技術(shù)和工具的利用，進一步加大了我們工作的難度。”

抖音安全風控專家張曦盛在分享中指出，黑灰產(chǎn)團隊利用新技術(shù)、新手段對平臺的攻擊滲透行為，效率要超過傳統(tǒng)攻擊的100倍，甚至更高。

例如，黑灰產(chǎn)團伙成員利用“群控軟件”，可以操控幾十上百臺手機，自動關(guān)注、點贊、發(fā)評論，甚至可以自動私信并回復用戶信息。

今年9月，抖音開啟了對“群控軟件”的專項打擊工作，過去兩個月中，公司法務已經(jīng)在杭州、深圳及廣州等多個地區(qū)針對四家涉及抖音的“群控軟件”運營公司提起訴訟，并獲得了杭州、廣州當?shù)胤ㄔ旱闹С?，分別出具禁令，相關(guān)“群控軟件”已被勒令停止運營。

將人工智能等技術(shù)應用到黑灰產(chǎn)打擊中

“黑灰產(chǎn)行業(yè)的技術(shù)與手段一直在升級，我們在與他們對抗的過程中，也在不斷升級技術(shù)與策略。”張曦盛介紹，“抖音安全中心在初期是利用詞表、名單及頻控策略進行對抗，然后建立了決策引擎和工具平臺，開始利用平臺化的工具進行更有效率的對抗打擊。”

據(jù)悉，目前，抖音安全中心團隊已經(jīng)將數(shù)據(jù)安全、人工智能等技術(shù)應用到了黑灰產(chǎn)打擊中，構(gòu)建立體防御體系。

張曦盛在現(xiàn)場展示了抖音安全中心的反欺詐解決方案，該方案利用抖音安全中心自主研發(fā)的“鯊魚反欺詐系統(tǒng)”，能夠在賬號注冊、登陸、發(fā)布評論內(nèi)容等階段判斷賬號是否是黑灰產(chǎn)詐騙賬號，并執(zhí)行對應的處理措施。

除此之外，張曦盛表示抖音安全中心目前也組建了紅藍軍攻防團隊，開展黑灰產(chǎn)的行業(yè)研究，希望先于犯罪分子發(fā)現(xiàn)黑灰產(chǎn)行業(yè)最新趨勢。

抖音安全中心公布的數(shù)據(jù)顯示，最近4個月，抖音安全中心已經(jīng)協(xié)助各地公安機關(guān)打擊涉嫌詐騙、色情的黑灰產(chǎn)團隊25個，刑事拘留87人。

2020年3月，抖音安全中心發(fā)現(xiàn)有用戶多次試圖上傳兒童色情視頻，工作人員在研判分析后，認為相關(guān)視頻中的兒童有被侵害的嫌疑。經(jīng)過回查更多視頻信息，抖音安全中心了解到該視頻內(nèi)容發(fā)生在四川省遂寧市，隨即向當?shù)毓矙C關(guān)報案，啟動聯(lián)合打擊機制。

隨后，當?shù)毓矙C關(guān)抽調(diào)警力組成專案組，開展案件偵辦工作。通過縝密偵查，3月29日，蓬溪縣公安局網(wǎng)安大隊將嫌疑人抓捕歸案。據(jù)嫌疑人交代，其多次以“提供WIFI”等方式，誘惑同村男童到其住所進行猥褻，并拍攝淫穢視頻，并在網(wǎng)上利用微信、QQ、快手、網(wǎng)盤等多種應用進行傳播出售。

抖音安全中心總監(jiān)周冉今年參與了多起黑灰產(chǎn)案件的打擊，她介紹，上述案件是典型的互聯(lián)網(wǎng)違法違規(guī)行為，具備長鏈條、跨平臺犯案的特征。現(xiàn)在的黑灰產(chǎn)行為，通常是在上游進行賬號注冊、買賣，然后在短視頻、社交媒體等平臺上實施引流，落地到社交軟件平臺上實施詐騙、傳播色情內(nèi)容，部分會再到電商平臺進行變現(xiàn)。

打擊互聯(lián)網(wǎng)黑灰產(chǎn)是一場持久戰(zhàn)

網(wǎng)絡灰黑產(chǎn)已是行業(yè)老大難問題。其實從互聯(lián)網(wǎng)平臺誕生之初，刷量、刷單等問題就已經(jīng)存在。這不僅會給消費者帶來誤導和損失，也會令平臺蒙受極大損失，影響其商譽。沒有平臺會不想打擊黑灰產(chǎn)，但作為一個長期的行業(yè)問題，要想禁絕這類現(xiàn)象，絕非一時一地之功。打擊灰黑產(chǎn)注定是一場持久戰(zhàn)。

正如上文所提到的，灰黑產(chǎn)在行業(yè)里已經(jīng)形成利益鏈條，受利益驅(qū)使，會不斷變換方式，逃避平臺查處。中國信息通信研究院發(fā)布的《移動數(shù)字金融和電子商務反欺詐白皮書》顯示，據(jù)估計，相關(guān)“黑色產(chǎn)業(yè)”的從業(yè)人員超過500萬，涉及金額達到千億級別。要打擊網(wǎng)絡黑灰產(chǎn)，僅靠平臺之力，很難實現(xiàn)。

“社會問題與抖音平臺問題，是共生共存的。所以我們一直認為，平臺責任不該局限于平臺。在進行平臺治理的過程中，抖音團隊會盡可能地更進一步考慮問題，希望在解決自身平臺問題的過程中，也能夠與更多機構(gòu)進行跨平臺聯(lián)動打擊，進一步解決社會問題。”周冉表示，“也希望社會各界要聯(lián)動起來，企業(yè)與公安、企業(yè)與企業(yè)、企業(yè)與用戶之間，要進行聯(lián)合聯(lián)動，共同打擊違法違規(guī)行為，建設美好、正向、健康且有價值的行業(yè)生態(tài)。”

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。