綠壩十年，兒童網(wǎng)絡(luò)安全保護問題仍未解決

原標題：綠壩十年，兒童網(wǎng)絡(luò)安全保護問題仍未解決

我們這一代人對于童年的記憶，多少都會有掐著點看父母什么時候回家，然后火速關(guān)掉電腦的經(jīng)歷，有些人可能還要把電腦上的蕾絲罩布形狀復(fù)原?；蛘呤峭低低ㄟ^電話充值Q幣裝飾QQ空間，在月底父母看著電話費單困惑時裝作一臉無辜。如果是男孩子，可能還會有偷偷去網(wǎng)吧的經(jīng)歷。

這些小小的刺激，基本都建立在家長對于娛樂的嚴格管制上，上網(wǎng)、網(wǎng)游、網(wǎng)戀都被視作洪水猛獸。其實今天回頭看看，和中國互聯(lián)網(wǎng)一起野蠻生長的一代人，與互聯(lián)網(wǎng)相伴的路徑還真的有點驚險。當脫離了少年心氣，才會覺得當初唾手可得的色情暴力不當內(nèi)容，對于兒童和青少年來說其實是并不合適的。

其實政府組織早就意識到了這一問題，2008年，原來的信息產(chǎn)業(yè)部、今天的工信部，公開向社會征集綠色上網(wǎng)過濾軟件。在原本的設(shè)想中，綠色上網(wǎng)幾乎算是一種分級制度，預(yù)裝在個人電腦中，為青少年和兒童過濾不良信息和圖片——但這并不影響成年人如何使用網(wǎng)絡(luò)。

這次招標為我們帶來的，是一次近乎鬧劇的失敗的兒童網(wǎng)絡(luò)保護行動，和至今仍然無法解決的兒童網(wǎng)絡(luò)安全問題。

一個失敗的起點：綠壩鬧劇始末

綠壩，是這一切的開始。

在工信部公開招標后，中標的分別是北京大正語言知識處理科技有限公司和鄭州金惠計算機系統(tǒng)工程有限公司兩家企業(yè)，金惠提供“金惠堵截黃色圖像及不良信息專家系統(tǒng)”，也就是圖像上的識別和攔截，而北京大正提供語言文字上的識別。雙方合作，研發(fā)了“綠壩·花季護航”這款過濾軟件。

工信部花費了4170萬元，購買了綠壩一年的使用權(quán)，提供給網(wǎng)民免費下載和使用到2010年5月。并下發(fā)了《關(guān)于計算機預(yù)裝綠色上網(wǎng)過濾軟件的通知》，要求09年7月之后我國境內(nèi)生產(chǎn)銷售的個人計算機必須預(yù)裝綠壩。

但很快強制安裝綠壩的行為就遭到了巨大的反彈，其中最主要的原因，是綠壩自己不夠爭氣。

很多使用者表示，綠壩的圖像過濾基本就是個笑話。只要是以黃色為主（此處指的是向日葵一樣的黃色）、摻雜黑色的圖片都會被過濾掉，導(dǎo)致打開綠壩之后連地圖都看不了。即使關(guān)閉綠壩，也會和一些日常管理軟件產(chǎn)生沖突。例如北京很多中小學(xué)校因為安裝了綠壩，連學(xué)籍管理、評價等軟件都不能正常打開，只好把批量安裝的綠壩批量卸載。

除了不夠好用之外，綠壩是否會侵犯個人隱私、是否會影響計算機安全，具體攔截哪些網(wǎng)站有沒有公開透明的標準、是否會影響信息自由和商業(yè)自由等等，都是人們懷疑的問題。

很快在2009年6月30日，《通知》上規(guī)定強制安裝綠壩的前一天，信部新聞發(fā)言人稱由于“一些企業(yè)提出工作量大、時間倉促、準備不足,根據(jù)實際情況,可以推遲預(yù)裝綠壩軟件。這款價值4000萬/年的項目終于不了了之，并且逐漸被人們遺忘。

錯誤的時間和錯誤的技術(shù)

綠壩失敗的原因究竟是什么？

即使拋開鄭州金惠和北京正大兩家企業(yè)中標的公平性，光從技術(shù)角度來看，綠壩的失敗也是必然。

先從鄭州金惠說起，鄭州金惠所提供的技術(shù)名為“金惠堵截黃色圖像及不良信息專家系統(tǒng)”，所謂專家系統(tǒng)就是人工智能的一個研究分支，將某一領(lǐng)域的人類專家知識和經(jīng)驗大量錄入計算機，以實現(xiàn)讓計算機模擬人類推理、判斷的過程。

人類信息實在太過豐富，誰來判斷信息的準確專業(yè)、誰來錄入信息，都是無法解決的巨大問題。所以專家系統(tǒng)大多被應(yīng)用在極細分的領(lǐng)域，比如某一種蟲子可能會對某一種農(nóng)作物造成的損失等等。

顯然，專家系統(tǒng)是不適用于識別色情圖片這樣極為泛化的問題的，從表現(xiàn)來看，金惠也沒能建立出一個足夠強大的鑒黃專家系統(tǒng)。

再看北京正大，北京正大提出了一套概念層次網(wǎng)絡(luò)（Hierarchical Network of Concepts）理論，指出“把人腦認知結(jié)構(gòu)分為局部和全局兩類聯(lián)想脈絡(luò)”，“建立自然語言的表述和處理模式，使計算機能夠模擬人腦的語言感知功能”。北京正大自己的說法雖然云里霧里，但我們?nèi)匀豢梢圆蹲降健澳７氯四X”這個關(guān)鍵詞。北京正大提出的模仿人腦，很可能是應(yīng)用類似今天深度學(xué)習(xí)的方式，像大腦一樣通過視覺、聽覺傳感提取邊緣特征再進行高級分類。

但我們已經(jīng)知道，深度學(xué)習(xí)依賴的是量級極大的數(shù)據(jù)和算力。就拿2012年谷歌啟動的谷歌大腦項目來說，利用了16000個CPU進行并行計算才讓機器能夠識別出貓的圖片。

在2008年的中國，我們很難相信哪一家企業(yè)有能力處理如此繁重的計算任務(wù)，綠壩的失敗也就不足為奇了。

總之如果聚焦于技術(shù)，綠壩失敗的本質(zhì)來自技術(shù)水平本身的限制和算力、數(shù)據(jù)等硬性條件的不足。其實這種失敗也不僅僅出現(xiàn)在中國，例如幾年前印尼也推出了一款名為Internet Positif的網(wǎng)絡(luò)信息過濾服務(wù)。和綠壩一樣，不光推廣起來很困難，還同樣遭遇了被萌化擬人的命運。

（上圖分別為印尼綠壩娘和我國的綠壩娘）

兒童網(wǎng)絡(luò)安全的今天，不僅僅是拒絕色情暴力

如今距離綠壩橫空出世已經(jīng)有十年之久，在從綠壩娘身上取得短暫的勝利之后，我們卻發(fā)現(xiàn)兒童網(wǎng)絡(luò)安全的問題要比我們想象中嚴重的多。

如果說綠壩效果太差是因為技術(shù)不到位，那么我們今天的AI技術(shù)已經(jīng)完全足夠應(yīng)對圖像和文字的識別。但是今天的兒童網(wǎng)絡(luò)安全，面臨的早已不僅僅是1024或在漂流瓶里丟自己敏感部位照片的怪蜀黍。

近幾年以來，兒童網(wǎng)絡(luò)安全問題有著以下兩個明顯的變化趨勢。

一、 線下問題逐漸向線上轉(zhuǎn)化

以往兒童網(wǎng)絡(luò)安全只需讓未成年人遠離色情、暴力等等不當信息，但如今隨著互聯(lián)網(wǎng)普及，很多發(fā)生在現(xiàn)實中的問題也開始向線上轉(zhuǎn)移陣地。比如網(wǎng)絡(luò)霸凌就是一個全球普遍的問題，廣州市青年文化宮曾經(jīng)調(diào)查得出，六成受訪青少年既是網(wǎng)絡(luò)霸凌者也是受害者。其他的還有在兒童網(wǎng)游中通過道具誘惑兒童，進行猥褻行為等等。兒童網(wǎng)絡(luò)安全問題正在越發(fā)多樣化，很難僅僅依靠識別技術(shù)解決。

二、 有害內(nèi)容形態(tài)模糊化和隱秘化

以往的有害內(nèi)容通常一眼就能被人類識破，但如今的有害內(nèi)容甚至連家長自己都看不出來。就像前一陣的兒童邪典片一樣，借用兒童最常接觸的內(nèi)容潛移默化的傳達信息，如果家長不往深處想，可能都不覺得這些內(nèi)容有些什么不對勁，更何況是AI了。或者像藍鯨游戲一樣，通過微信群、QQ群工具小范圍傳播組織活動，活動的參與者還會注重信息的保護不向外傳播。如何在保護隱私的前提下發(fā)現(xiàn)并防止類似狀況發(fā)生，是目前有待解決的大問題。

不過今天的我們，也在用更新的方式保護兒童網(wǎng)絡(luò)安全。

首先，我們已經(jīng)放棄了政府牽頭、一套軟件全國用這種吃力不討好的方式。而是當BAT、TMD等等巨頭已經(jīng)收攏了大部分互聯(lián)網(wǎng)流量時，把壓力轉(zhuǎn)移到企業(yè)身上，讓企業(yè)們各施所長進行內(nèi)容監(jiān)管。

并且更新的技術(shù)手段也在快速進入兒童網(wǎng)絡(luò)安全保護領(lǐng)域。像美國初創(chuàng)企業(yè)Securly就通過云端向中小學(xué)提供網(wǎng)絡(luò)過濾服務(wù)，利用NLP識別文字所表達的情緒，當發(fā)現(xiàn)兒童青少年的有自殺傾向時及時向父母發(fā)短信提醒。

加上相關(guān)法律法規(guī)走向規(guī)范，在凈網(wǎng)行動的影響下，成年人都很難找到“不當內(nèi)容”，更別提孩子們了。

我們或許應(yīng)該承認，綠壩的初衷是好的、是必要的，甚至在它體現(xiàn)出的些許分級模式出行中，相對給予了成年人一些自由?？上Ъ夹g(shù)的不到位和民眾們強烈的反感，讓綠壩和分級模式一同走入了墳?zāi)?，我們最終選擇了更加粗放的解決方式，將所有觸網(wǎng)人群一同保護起來。

但即便如此，不斷變化兒童網(wǎng)絡(luò)安全問題還是沒有得到很好的解決。十年之后，仍在起點。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。