綠壩十年，兒童網絡安全保護問題仍未解決

原標題：綠壩十年，兒童網絡安全保護問題仍未解決

我們這一代人對于童年的記憶，多少都會有掐著點看父母什么時候回家，然后火速關掉電腦的經歷，有些人可能還要把電腦上的蕾絲罩布形狀復原?；蛘呤峭低低ㄟ^電話充值Q幣裝飾QQ空間，在月底父母看著電話費單困惑時裝作一臉無辜。如果是男孩子，可能還會有偷偷去網吧的經歷。

這些小小的刺激，基本都建立在家長對于娛樂的嚴格管制上，上網、網游、網戀都被視作洪水猛獸。其實今天回頭看看，和中國互聯(lián)網一起野蠻生長的一代人，與互聯(lián)網相伴的路徑還真的有點驚險。當脫離了少年心氣，才會覺得當初唾手可得的色情暴力不當內容，對于兒童和青少年來說其實是并不合適的。

其實政府組織早就意識到了這一問題，2008年，原來的信息產業(yè)部、今天的工信部，公開向社會征集綠色上網過濾軟件。在原本的設想中，綠色上網幾乎算是一種分級制度，預裝在個人電腦中，為青少年和兒童過濾不良信息和圖片——但這并不影響成年人如何使用網絡。

這次招標為我們帶來的，是一次近乎鬧劇的失敗的兒童網絡保護行動，和至今仍然無法解決的兒童網絡安全問題。

一個失敗的起點：綠壩鬧劇始末

綠壩，是這一切的開始。

在工信部公開招標后，中標的分別是北京大正語言知識處理科技有限公司和鄭州金惠計算機系統(tǒng)工程有限公司兩家企業(yè)，金惠提供“金惠堵截黃色圖像及不良信息專家系統(tǒng)”，也就是圖像上的識別和攔截，而北京大正提供語言文字上的識別。雙方合作，研發(fā)了“綠壩·花季護航”這款過濾軟件。

工信部花費了4170萬元，購買了綠壩一年的使用權，提供給網民免費下載和使用到2010年5月。并下發(fā)了《關于計算機預裝綠色上網過濾軟件的通知》，要求09年7月之后我國境內生產銷售的個人計算機必須預裝綠壩。

但很快強制安裝綠壩的行為就遭到了巨大的反彈，其中最主要的原因，是綠壩自己不夠爭氣。

很多使用者表示，綠壩的圖像過濾基本就是個笑話。只要是以黃色為主（此處指的是向日葵一樣的黃色）、摻雜黑色的圖片都會被過濾掉，導致打開綠壩之后連地圖都看不了。即使關閉綠壩，也會和一些日常管理軟件產生沖突。例如北京很多中小學校因為安裝了綠壩，連學籍管理、評價等軟件都不能正常打開，只好把批量安裝的綠壩批量卸載。

除了不夠好用之外，綠壩是否會侵犯個人隱私、是否會影響計算機安全，具體攔截哪些網站有沒有公開透明的標準、是否會影響信息自由和商業(yè)自由等等，都是人們懷疑的問題。

很快在2009年6月30日，《通知》上規(guī)定強制安裝綠壩的前一天，信部新聞發(fā)言人稱由于“一些企業(yè)提出工作量大、時間倉促、準備不足,根據(jù)實際情況,可以推遲預裝綠壩軟件。這款價值4000萬/年的項目終于不了了之，并且逐漸被人們遺忘。

錯誤的時間和錯誤的技術

綠壩失敗的原因究竟是什么？

即使拋開鄭州金惠和北京正大兩家企業(yè)中標的公平性，光從技術角度來看，綠壩的失敗也是必然。

先從鄭州金惠說起，鄭州金惠所提供的技術名為“金惠堵截黃色圖像及不良信息專家系統(tǒng)”，所謂專家系統(tǒng)就是人工智能的一個研究分支，將某一領域的人類專家知識和經驗大量錄入計算機，以實現(xiàn)讓計算機模擬人類推理、判斷的過程。

人類信息實在太過豐富，誰來判斷信息的準確專業(yè)、誰來錄入信息，都是無法解決的巨大問題。所以專家系統(tǒng)大多被應用在極細分的領域，比如某一種蟲子可能會對某一種農作物造成的損失等等。

顯然，專家系統(tǒng)是不適用于識別色情圖片這樣極為泛化的問題的，從表現(xiàn)來看，金惠也沒能建立出一個足夠強大的鑒黃專家系統(tǒng)。

再看北京正大，北京正大提出了一套概念層次網絡（Hierarchical Network of Concepts）理論，指出“把人腦認知結構分為局部和全局兩類聯(lián)想脈絡”，“建立自然語言的表述和處理模式，使計算機能夠模擬人腦的語言感知功能”。北京正大自己的說法雖然云里霧里，但我們仍然可以捕捉到“模仿人腦”這個關鍵詞。北京正大提出的模仿人腦，很可能是應用類似今天深度學習的方式，像大腦一樣通過視覺、聽覺傳感提取邊緣特征再進行高級分類。

但我們已經知道，深度學習依賴的是量級極大的數(shù)據(jù)和算力。就拿2012年谷歌啟動的谷歌大腦項目來說，利用了16000個CPU進行并行計算才讓機器能夠識別出貓的圖片。

在2008年的中國，我們很難相信哪一家企業(yè)有能力處理如此繁重的計算任務，綠壩的失敗也就不足為奇了。

總之如果聚焦于技術，綠壩失敗的本質來自技術水平本身的限制和算力、數(shù)據(jù)等硬性條件的不足。其實這種失敗也不僅僅出現(xiàn)在中國，例如幾年前印尼也推出了一款名為Internet Positif的網絡信息過濾服務。和綠壩一樣，不光推廣起來很困難，還同樣遭遇了被萌化擬人的命運。

（上圖分別為印尼綠壩娘和我國的綠壩娘）

兒童網絡安全的今天，不僅僅是拒絕色情暴力

如今距離綠壩橫空出世已經有十年之久，在從綠壩娘身上取得短暫的勝利之后，我們卻發(fā)現(xiàn)兒童網絡安全的問題要比我們想象中嚴重的多。

如果說綠壩效果太差是因為技術不到位，那么我們今天的AI技術已經完全足夠應對圖像和文字的識別。但是今天的兒童網絡安全，面臨的早已不僅僅是1024或在漂流瓶里丟自己敏感部位照片的怪蜀黍。

近幾年以來，兒童網絡安全問題有著以下兩個明顯的變化趨勢。

一、 線下問題逐漸向線上轉化

以往兒童網絡安全只需讓未成年人遠離色情、暴力等等不當信息，但如今隨著互聯(lián)網普及，很多發(fā)生在現(xiàn)實中的問題也開始向線上轉移陣地。比如網絡霸凌就是一個全球普遍的問題，廣州市青年文化宮曾經調查得出，六成受訪青少年既是網絡霸凌者也是受害者。其他的還有在兒童網游中通過道具誘惑兒童，進行猥褻行為等等。兒童網絡安全問題正在越發(fā)多樣化，很難僅僅依靠識別技術解決。

二、 有害內容形態(tài)模糊化和隱秘化

以往的有害內容通常一眼就能被人類識破，但如今的有害內容甚至連家長自己都看不出來。就像前一陣的兒童邪典片一樣，借用兒童最常接觸的內容潛移默化的傳達信息，如果家長不往深處想，可能都不覺得這些內容有些什么不對勁，更何況是AI了。或者像藍鯨游戲一樣，通過微信群、QQ群工具小范圍傳播組織活動，活動的參與者還會注重信息的保護不向外傳播。如何在保護隱私的前提下發(fā)現(xiàn)并防止類似狀況發(fā)生，是目前有待解決的大問題。

不過今天的我們，也在用更新的方式保護兒童網絡安全。

首先，我們已經放棄了政府牽頭、一套軟件全國用這種吃力不討好的方式。而是當BAT、TMD等等巨頭已經收攏了大部分互聯(lián)網流量時，把壓力轉移到企業(yè)身上，讓企業(yè)們各施所長進行內容監(jiān)管。

并且更新的技術手段也在快速進入兒童網絡安全保護領域。像美國初創(chuàng)企業(yè)Securly就通過云端向中小學提供網絡過濾服務，利用NLP識別文字所表達的情緒，當發(fā)現(xiàn)兒童青少年的有自殺傾向時及時向父母發(fā)短信提醒。

加上相關法律法規(guī)走向規(guī)范，在凈網行動的影響下，成年人都很難找到“不當內容”，更別提孩子們了。

我們或許應該承認，綠壩的初衷是好的、是必要的，甚至在它體現(xiàn)出的些許分級模式出行中，相對給予了成年人一些自由。可惜技術的不到位和民眾們強烈的反感，讓綠壩和分級模式一同走入了墳墓，我們最終選擇了更加粗放的解決方式，將所有觸網人群一同保護起來。

但即便如此，不斷變化兒童網絡安全問題還是沒有得到很好的解決。十年之后，仍在起點。

生成海報

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。