“人工智能在賦能人類社會加快發(fā)展的同時，正逐漸衍生出可危及國家安全和人類安全的新形態(tài)重大風(fēng)險，其可能風(fēng)險包括人工智能自身失誤、智能硬件被惡意襲擊以及機器人智能行為體失控。”中央網(wǎng)信辦專家咨詢委員會顧問、國家集成電路產(chǎn)業(yè)發(fā)展咨詢委員會委員、國家三網(wǎng)融合專家組成員沈昌祥院士在2022大華股份“云聯(lián)萬物 數(shù)智未來”高峰論壇上基于人工智能安全如是說。
沈昌祥院士
此次高峰論壇，由大華股份主辦，浙江省城市治理研究中心協(xié)辦，中國智慧交通管理產(chǎn)業(yè)聯(lián)盟作為指導(dǎo)單位，致力于探討數(shù)字化、人工智能、物聯(lián)網(wǎng)等相關(guān)議題。參與論壇話題討論的均為業(yè)內(nèi)資深專家，沈昌祥院士便是其中之一。沈院士以“用主動免疫可信計算筑牢人工智能安全基石”為主題，并圍繞智能社會安全體系、可信計算3.0和等保2.0等內(nèi)容進行展開。
防御智能社會風(fēng)險，構(gòu)筑主動免疫保障體系
沈昌祥院士首先解釋了智能社會的概念。在他看來，智能社會是基于泛在網(wǎng)絡(luò)交聯(lián)，將物理、民生、數(shù)字和網(wǎng)絡(luò)四維空間深度融合，并提供智能處理事務(wù)的資源和能力，實現(xiàn)高度智能化、安全可信、按需服務(wù)的社會。但沈院士擔憂的是，人工智能在賦能人類社會加快發(fā)展的同時，正逐漸衍生出可危及國家安全和人類安全的新形態(tài)重大風(fēng)險。因此，必須予以高度重視，并切實找到有效的解決方案。
沈院士以“勒索病毒”為例，表明智能社會所遭遇到的攻擊無處不在。2017年5月12日爆發(fā)的“WannaCry”的勒索病毒，將數(shù)據(jù)加密，變得不可用，借機勒索錢財。病毒席卷近150個國家，教育、交通、醫(yī)療、能源網(wǎng)絡(luò)幾乎癱瘓。另外，2018年8月和2021年5月，臺積電和美國最大的成品油管道運營商Colonial Pipeline分別遭到勒索病毒入侵，造成工作停擺，以及數(shù)十億美元的損失。
沈院士指出，網(wǎng)絡(luò)天生的脆弱性以及認知科學(xué)的局限性，讓設(shè)計IT系統(tǒng)無法窮盡所有邏輯組合，必定存在大量未經(jīng)處理的邏輯缺陷。因此，利用漏洞進行威脅攻擊是網(wǎng)絡(luò)安全風(fēng)險的永遠命題。面對這樣的風(fēng)險，傳統(tǒng)“封堵查殺”補丁難以應(yīng)對未知惡意攻擊。因此，使用安全可信網(wǎng)絡(luò)產(chǎn)品和服務(wù)，構(gòu)建主動免疫防護的保障體系成為最佳選擇。
六層防護架構(gòu)，立體化維護系統(tǒng)安全
在沈院士的保障系統(tǒng)中，主要包括六個維度，分別是“一種”新模式、“二重”體系結(jié)構(gòu)、“三重”防護框架、“四要素”可信動態(tài)訪問控制、“五環(huán)節(jié)”全程管控 以及“六不”防護效果。
“一種”新模式，即主動免疫可信計算，是一種運算同時進行安全防護的新計算模式，以密碼為基因抗體實施身份識別、狀態(tài)度量、保密存儲等功能，及時識別“自己”和“非己”成分，相當于為網(wǎng)絡(luò)信息系統(tǒng)培育了免疫能力。與傳統(tǒng)的殺病毒、防火墻、入侵檢測的防護思路相比，新模式具備更強的保護力。
“二重”體系結(jié)構(gòu)和“三重”防護框架，具體為實行安全可信策略管控，打造計算部件和防護部件為核心的二重體系結(jié)構(gòu)的可信計算節(jié)點，建立免疫“反腐敗”子系統(tǒng)，并通過可信安全管理中心支持下的主動免疫三重防護框架，即可信計算環(huán)境、可信邊界和可信網(wǎng)絡(luò)通信，最終到達用戶終端。
而“四要素”可信動態(tài)訪問控制，表現(xiàn)為對人的操作訪問策略四要素(主體、客體、操作、環(huán)境)進行動態(tài)可信度量、識別和控制，糾正了傳統(tǒng)無計算環(huán)境要素的訪問控制策略模型只基于授權(quán)標識屬性進行操作，而不作可信驗證，難防篡改的安全缺陷。
關(guān)于“五環(huán)節(jié)”全程管控和“六不”防護效果， 則要求技管并重，按照網(wǎng)絡(luò)安全法、密碼法、等級保護制度、關(guān)鍵信息基礎(chǔ)設(shè)施保護制度的要求，全程治理，確保體系結(jié)構(gòu)、資源配置、操作行為、數(shù)據(jù)存儲、策略管理可信。實現(xiàn)讓攻擊者進不去、非授權(quán)者重要信息拿不到、竊取保密信息看不懂、系統(tǒng)和信息改不了、系統(tǒng)工作癱不成和攻擊行為賴不掉的六大防護效果。
以可信計算3.0，打造新型安全可信產(chǎn)業(yè)空間
在強調(diào)構(gòu)建保障體系的同時，沈院士進一步以可信計算3.0打造安全可信新型產(chǎn)業(yè)空間的策略。要實現(xiàn)這一目標，搶占核心技術(shù)制高點，擺脫受制于人是關(guān)鍵。沈院士引述《國家中長期科學(xué)技術(shù)發(fā)展(2006-2020年)》文件，提出以發(fā)展高可信網(wǎng)絡(luò)為重點，開發(fā)網(wǎng)絡(luò)安全技術(shù)及相關(guān)產(chǎn)品，建立網(wǎng)絡(luò)安全技術(shù)保障體系。根據(jù)《文件》內(nèi)容，可信計算廣泛應(yīng)用于國家重要信息系統(tǒng)，如：增值稅防偽、彩票防偽、二代居民身份證安全系統(tǒng)、國家電網(wǎng)電力數(shù)字化調(diào)度系統(tǒng)安全防護建設(shè)，已成為國家法律、戰(zhàn)略、等級保護制度，要求進行推廣應(yīng)用。
沈院士認為，在構(gòu)建新型網(wǎng)絡(luò)安全體系的過程中，一定要科學(xué)嚴謹分析研究，堅持自主創(chuàng)新，掌握核心競爭力，把握主動優(yōu)勢，并以可信計算功能的國產(chǎn)CPU、嵌入式可信芯片及安全卡和具備可信計算3.0技術(shù)的設(shè)備為基礎(chǔ)，建立起完備的可信計算3.0產(chǎn)品鏈，開拓新型產(chǎn)業(yè)空間。
基于等保2.0，筑牢智能化基礎(chǔ)設(shè)施安全防御體系
在沈院士的論述中，等保2.0同樣發(fā)揮著不可忽視的價值。等保2.0作為新標準，把云計算、移動互聯(lián)網(wǎng)、物聯(lián)網(wǎng)和工控等采用可信計算3.0作為核心要求，以此筑牢網(wǎng)絡(luò)安全防線。同時，需建立安全可信人工智能、計算處理服務(wù)資源安全可信和系統(tǒng)管理安全可信綜合性防護體系。
最后，沈院士不忘強調(diào)物聯(lián)網(wǎng)的安全框架。物聯(lián)網(wǎng)的安全框架基于可信安全管理中心，通過打造可信計算環(huán)境、可信通訊網(wǎng)絡(luò)和感知計算環(huán)境，形成系統(tǒng)、安全和審計一體化的安全體系，進而全面保障智能物聯(lián)網(wǎng)安全。
沈昌祥院士以其豐富的行業(yè)知識，從人工智能的風(fēng)險、人工智能的防護以及我國智能安全系統(tǒng)體系的建設(shè)等方面作為切口，對觀點進行了詳細闡釋。通過沈院士的講解，相信在智能社會的安全體系建設(shè)中將投入更多精力。畢竟，這不僅意味著對個人的保護，也是讓中國智能社會能夠長遠穩(wěn)步發(fā)展的堅定保障。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
