社交網(wǎng)絡(luò)的暗面：仇恨言論的“魔道之戰(zhàn)”

原標(biāo)題：社交網(wǎng)絡(luò)的暗面：仇恨言論的“魔道之戰(zhàn)”

這年頭但凡接觸過(guò)網(wǎng)絡(luò)，一定近距離感受過(guò)仇恨言論的力量。

無(wú)論是跑到別人評(píng)論區(qū)下面謾罵的個(gè)人暴力，還是發(fā)泄對(duì)政府、社會(huì)不滿的吐槽，亦或是帶有歧視排外極端色彩的危險(xiǎn)發(fā)言，反正總有一款網(wǎng)友教你做人。

網(wǎng)絡(luò)“仇恨值”近年來(lái)已經(jīng)已經(jīng)發(fā)酵到了“難承其重”的程度，成為不少全球惡性恐怖事件的源頭。

大家想必都聽說(shuō)了，就在8月3日，美國(guó)一天時(shí)間內(nèi)留發(fā)生了兩起公共傷害事件，造成30多人死亡。加上今年3月的新西蘭清真寺事件， 4月份以的美國(guó)加州猶太教堂事件，這些兇手被發(fā)現(xiàn)都是種族歧視的捍衛(wèi)者，動(dòng)手之前都曾在網(wǎng)絡(luò)上分享過(guò)自己的行程與仇恨理念，這顯然不是巧合。

一場(chǎng)全社會(huì)與仇恨言論之間的戰(zhàn)斗正在展開，但成果遠(yuǎn)沒有我們想象中那樣卓有成效。

一場(chǎng)抵御仇恨的全民戰(zhàn)爭(zhēng)

“仇恨”，似乎是一個(gè)離普通人生活很遙遠(yuǎn)的事情，不幸的是，它正在變得越來(lái)越接地氣。

2003年，盧旺達(dá)國(guó)際刑事法庭審理的“仇恨媒體案”，對(duì)兩名散播仇恨言論的前媒體負(fù)責(zé)人分別判處了終身監(jiān)禁和35年監(jiān)禁的刑罰，這是國(guó)際法庭首次對(duì)媒體進(jìn)行仇恨言論的限制。

但這種規(guī)制很快在互聯(lián)網(wǎng)的沖刷下成了過(guò)去時(shí)，人們往常理解的“仇恨”也逐漸發(fā)生變化：

首先是言論主體變了。起初，利用網(wǎng)絡(luò)傳播仇恨言論的活動(dòng)者，大多是一部分極端主義者，隨著所有智能手機(jī)用戶都開始參與社交網(wǎng)絡(luò)討論，助長(zhǎng)了仇恨言論的擴(kuò)散，直接導(dǎo)致相關(guān)群體迅速壯大。

（8月3日美國(guó)德州街頭慘案現(xiàn)場(chǎng)，人們?cè)趯ふ矣H人）

其次是攻擊范圍變得更廣。二戰(zhàn)后歐洲國(guó)家出于抑制種族和宗教仇恨等原因開始對(duì)仇恨言論進(jìn)行立法規(guī)制，但在網(wǎng)絡(luò)環(huán)境下，仇恨言論的議題正在變得越來(lái)越廣泛。對(duì)外來(lái)者、難民、窮人的抵制，對(duì)其他種族、性別、地域群體的歧視，這些“抱怨”和侮辱性語(yǔ)言，看上去似乎并不能產(chǎn)生即時(shí)性的危害，卻讓極端的仇恨犯罪行為變得更加隱蔽，令監(jiān)管喪失警惕。

社交鏈的加強(qiáng)也變相推動(dòng)了事實(shí)性犯罪的增加。仇恨泛化的大背景下， 一些極端主義者更容易通過(guò)社交網(wǎng)絡(luò)獲得支持。現(xiàn)實(shí)中互不相識(shí)的極端分子正在網(wǎng)上尋找彼此，并試圖“一起”發(fā)動(dòng)襲擊，制造疊加的恐怖主義事件。比如8月3日美國(guó)慘案的兇手克魯修斯，案發(fā)之后就得到了8chan網(wǎng)絡(luò)社區(qū)用戶的大量討論和普遍贊揚(yáng)，這種社區(qū)氛圍更容易激勵(lì)其他人犯罪。

（白人極端主義造成的案件，是最具殺傷力的事件之一）

累覺不愛的同時(shí)，大家可能會(huì)疑惑，在這場(chǎng)“仇恨抵御戰(zhàn)”中，政府和互聯(lián)網(wǎng)巨頭們都扮演了什么樣的角色，為什么沒有拿出行而有效的治理手段。

政府+巨頭的陽(yáng)謀，以及小眾網(wǎng)站的暗面

公平地說(shuō)，在控制網(wǎng)絡(luò)仇恨言論這件事上，各國(guó)政府與科技巨頭們前所未有地統(tǒng)一戰(zhàn)線和團(tuán)結(jié)。

2016年5月，歐盟委員會(huì)宣布與Facebook、Twitter、YouTube和微軟就控制網(wǎng)絡(luò)不法仇恨言論展開合作，互聯(lián)網(wǎng)巨頭們集體簽署了一項(xiàng)行為準(zhǔn)則，承諾“接到舉報(bào)后24小時(shí)內(nèi)屏蔽和刪除相關(guān)仇恨言論”。

2018年，監(jiān)管再次加碼，沒在規(guī)定時(shí)間內(nèi)下架相關(guān)內(nèi)容，將面臨高達(dá)5000萬(wàn)歐元的罰款，平臺(tái)們還必須每六個(gè)月上報(bào)一次自己對(duì)違法內(nèi)容的處理結(jié)果。

而各大平臺(tái)也表示出了高度的配合，甚至到了舍生忘死的程度。比如Facebook 和 Twitter 對(duì) ISIS 的極端言論采取了嚴(yán)厲的封殺態(tài)度，還一度引發(fā)了恐怖分子的不滿，在網(wǎng)站上發(fā)布恐嚇視頻，展示了一張?jiān)瞬衽c杰克多西（Twitter 創(chuàng)始人）中彈的照片進(jìn)行威脅。

報(bào)告顯示，F(xiàn)acebook在2018年7月至9月期間刪除了約290萬(wàn)條仇恨言論，去年一舉封禁了259個(gè)涉嫌發(fā)布和傳播支持恐怖分子材料的賬號(hào)。借助機(jī)器學(xué)習(xí)，YouTube上超過(guò)95％的仇恨內(nèi)容能在24小時(shí)內(nèi)被屏蔽。

既然政府機(jī)構(gòu)打擊態(tài)度很強(qiáng)硬，平臺(tái)們也拿出了“一生懸命”般的魄力在治理，為什么近年來(lái)仇恨言論誘發(fā)的暴力事件依然屢禁不止呢？原因總結(jié)起來(lái)大概有四點(diǎn)：

第一，關(guān)于“仇恨言論”目前尚未有權(quán)威的定義，這就造成了不同國(guó)家、不同公司、不同機(jī)構(gòu)在執(zhí)行審查時(shí)，缺乏一個(gè)統(tǒng)一的信息評(píng)價(jià)標(biāo)準(zhǔn)去有效認(rèn)定非法信息，難以把握分寸，讓治理措施充滿了不確定性，且缺乏預(yù)見性，直接影響處罰效果。比如歐洲人權(quán)法院與網(wǎng)絡(luò)言論有關(guān)的三起案件中，對(duì)可以明確定義為仇恨言論的網(wǎng)站經(jīng)營(yíng)者進(jìn)行了追責(zé)，而對(duì)具有侮辱、誹謗性質(zhì)的攻擊性語(yǔ)言并沒有進(jìn)行處罰。

第二，仇恨言論與表達(dá)自由之間的沖突仍未解決。言論自由已經(jīng)成為根深蒂固的社會(huì)文化，這就導(dǎo)致輿論導(dǎo)向容易“慕虛名而處實(shí)禍”。單純以立法的手段來(lái)管理，會(huì)直接遭遇多樣化的阻礙而阻礙治理的推進(jìn)。此前美國(guó)對(duì)網(wǎng)絡(luò)管理的一些立法就多次受到社會(huì)團(tuán)體的否定，最終被法院裁決為違憲。

第三，監(jiān)督仇恨言論的公共性質(zhì)與網(wǎng)絡(luò)市場(chǎng)化的博弈。一些西方發(fā)達(dá)國(guó)家更傾向于通過(guò)市場(chǎng)調(diào)節(jié)和行業(yè)自律來(lái)對(duì)網(wǎng)絡(luò)進(jìn)行監(jiān)管，但互聯(lián)網(wǎng)的商業(yè)化運(yùn)作對(duì)市場(chǎng)的依賴性很強(qiáng)，運(yùn)營(yíng)商逐利的天性決定了其不可能真正從社會(huì)公眾利益的角度來(lái)規(guī)范管理，所以客觀上就導(dǎo)致了行業(yè)自律行為比較脆弱。

舉個(gè)例子，德國(guó)司法部曾給Facebook開出200萬(wàn)歐元的罰單，原因是對(duì)涉及仇恨言論的內(nèi)容，F(xiàn)acebook提供的舉報(bào)入口不如其他準(zhǔn)則清晰。再比如，埃爾帕索案發(fā)生后， 8chan創(chuàng)辦者布雷南要求現(xiàn)任管理者華特金斯父子與CDN 提供商Cloudflare關(guān)停網(wǎng)站，但這二位都拒絕了這種呼吁。

（8chan 的創(chuàng)造者Fredrick Brennan，是一名脆骨癥患者）

第四，小眾網(wǎng)站的崛起與暗面。

Facebook和Twitter等大型網(wǎng)站，在刪除危險(xiǎn)內(nèi)容方面更加積極主動(dòng)，使其社交生態(tài)不太適合恐怖分子，而無(wú)障礙的交流才是社交的第一要義，于是，諸如8chan之類的小眾網(wǎng)站就有了機(jī)會(huì)。

用戶活躍與廣告分發(fā)是小站生存的根源，因此平臺(tái)有時(shí)會(huì)刻意放縱審查，比如8chan就把自己當(dāng)作言論自由的烏托邦，任何發(fā)言都會(huì)受到歡迎，不管它有多毒，平臺(tái)都幾乎完全無(wú)動(dòng)于衷。另外小站的人員不足，社區(qū)運(yùn)營(yíng)能力也比較弱，也無(wú)力對(duì)UGC內(nèi)容進(jìn)行嚴(yán)格的監(jiān)管。

在反誹謗聯(lián)盟（anti-defamation league）的CEO喬納森格林布拉特看來(lái)，“最壞的罪犯會(huì)在那里分享他們的可怕想法，這些思想被放大和擴(kuò)展，最終，人們被激化”，誘發(fā)更多的大規(guī)模傷害事件。8chan也正如網(wǎng)站主題所顯示的那般，成為“互聯(lián)網(wǎng)最黑暗的地方”。

這種現(xiàn)狀還有可能改變嗎？

告別烏托邦：欠發(fā)達(dá)國(guó)家的內(nèi)容監(jiān)管之路

對(duì)比之下我們發(fā)現(xiàn)，一些亞洲和欠發(fā)達(dá)國(guó)家，總體市場(chǎng)化的程度不高，但極少爆發(fā)出類似仇恨言論的惡性事件。

原因之一，是許多亞洲國(guó)家傳統(tǒng)文化中一直強(qiáng)調(diào)集體利益和公眾原則，所以在互聯(lián)網(wǎng)的管理上，在保護(hù)用戶權(quán)利的同時(shí)也非常強(qiáng)調(diào)公共利益，更加注重借助政府的行政效力，通過(guò)各類剛性措施來(lái)保證互聯(lián)網(wǎng)的規(guī)范化運(yùn)轉(zhuǎn)，這就解決了網(wǎng)絡(luò)仇恨言論“該不該管”的問(wèn)題。

其二，一般情況下，多數(shù)國(guó)家的網(wǎng)絡(luò)內(nèi)容審查都采取的是“事后追懲”模式，也就是在違法行為發(fā)生以后才通過(guò)法律予以追究，不做普遍的預(yù)先審查。而許多亞洲國(guó)家的做法是主動(dòng)防御，將普遍過(guò)濾的預(yù)先審查與人工干預(yù)的后期抽查相結(jié)合，來(lái)防范仇恨言論“禁區(qū)”。

舉個(gè)例子，韓國(guó)的實(shí)名制措施就對(duì)網(wǎng)絡(luò)世界起到了非常明顯的凈化效果，新加坡廣播管理局SBA從1996年開始實(shí)施分類許可證制度，有可能從事非法內(nèi)容服務(wù)的互聯(lián)網(wǎng)服務(wù)商都需要申領(lǐng)許可，并保證最初最大努力刪除法律禁止的內(nèi)容。越南、緬甸等國(guó)更嚴(yán)格的措施也基本杜絕了問(wèn)題的出現(xiàn)。

當(dāng)然，這些亞洲國(guó)家的管理方式也存在一些問(wèn)題，比如說(shuō)過(guò)度依賴行政手段，從而限制了互聯(lián)網(wǎng)產(chǎn)業(yè)的發(fā)展，新傳播技術(shù)的潛在效能沒能夠在社會(huì)生活中充分彰顯。

從這些探索的失利與不利中，不難看到，互聯(lián)網(wǎng)內(nèi)容安全監(jiān)管是一項(xiàng)龐大的工程，需要各種手段跟極端分子斗智斗勇，行政、立法、技術(shù)、產(chǎn)業(yè)等的參與缺一不可。

如今中國(guó)正在內(nèi)容監(jiān)管領(lǐng)域緊鑼密鼓地部署，爭(zhēng)取在產(chǎn)業(yè)效率與網(wǎng)安風(fēng)險(xiǎn)上達(dá)到理想化的平衡狀態(tài)。仇恨言論“該怎么管”，其他國(guó)家的前車之鑒或許能帶來(lái)不少啟發(fā)。

而網(wǎng)絡(luò)世界里的魔道斗法，注定將持續(xù)交戰(zhàn)下去，永不止步。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。