美國(guó)網(wǎng)絡(luò)安全與基礎(chǔ)設(shè)施安全局（Cybersecurity & Infrastructure Security Agency）于2023年11月發(fā)布了該機(jī)構(gòu)2023-2024年度人工智能路線圖（Roadmap for AI，下文簡(jiǎn)稱“CISA路線圖”）[1]以表明其在美國(guó)人工智能戰(zhàn)略（National AI Strategy）框架下的機(jī)構(gòu)工作計(jì)劃。CISA明確了三項(xiàng)核心努力方向：促進(jìn)使用人工智能強(qiáng)化網(wǎng)絡(luò)安全能力；保護(hù)人工智能系統(tǒng)免受基于網(wǎng)絡(luò)的威脅（cyber-based threats）；威懾（deter）利用人工智能的能力威脅美國(guó)民眾所依賴的關(guān)鍵基礎(chǔ)設(shè)施的惡意企圖。與該文件同月發(fā)布的還有《人工智能安全開發(fā)指引》[2]，該文件由CISA與英國(guó)國(guó)家網(wǎng)絡(luò)安全中心（NCSC）、多國(guó)網(wǎng)絡(luò)安全和情報(bào)機(jī)構(gòu)、部分美國(guó)大學(xué)科研機(jī)構(gòu)和人工智能企業(yè)聯(lián)合發(fā)布，主要對(duì)人工智能系統(tǒng)安全設(shè)計(jì)、安全開發(fā)、安全部署和安全運(yùn)維四個(gè)方面進(jìn)行了描述。CISA強(qiáng)調(diào)該指引能夠幫助人工智能系統(tǒng)開發(fā)者在各個(gè)開發(fā)階段有依據(jù)地做出網(wǎng)絡(luò)安全決策[3]。本文對(duì)CISA路線圖的背景和內(nèi)容進(jìn)行了評(píng)述，為讀者提供美國(guó)在人工智能和網(wǎng)絡(luò)安全交叉領(lǐng)域的政策動(dòng)態(tài)視野。
文件政策背景
（1）CISA
美國(guó)網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局，簡(jiǎn)稱CISA，是美國(guó)國(guó)土安全部（Dept. Of Homeland Security, DHS）下屬機(jī)構(gòu)[4]，前身為2007年DHS國(guó)家保衛(wèi)主管部門項(xiàng)目（DHS National Protection and Programs Directorate），在2018年依據(jù)《美國(guó)網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局法案》（CISA Act of 2018）正式成立[5][6]。根據(jù)官網(wǎng)介紹，CISA是“美國(guó)聯(lián)邦網(wǎng)絡(luò)安全基礎(chǔ)設(shè)施安全和彈性（resilience）的國(guó)家協(xié)調(diào)者和行動(dòng)領(lǐng)導(dǎo)”。CISA將其使命定義為“領(lǐng)導(dǎo)國(guó)家力量，努力理解、管理并減少對(duì)于美國(guó)網(wǎng)絡(luò)和物理基礎(chǔ)設(shè)施的風(fēng)險(xiǎn)”，并以“為美國(guó)民眾實(shí)現(xiàn)安全、彈性的關(guān)鍵基礎(chǔ)設(shè)施”為愿景。CISA的工作領(lǐng)域主要包括網(wǎng)絡(luò)安全、基礎(chǔ)設(shè)施安全和應(yīng)急通信（emergency communications）[7]。該機(jī)構(gòu)下屬六個(gè)部門和多個(gè)任務(wù)實(shí)施辦公室；六個(gè)部門分別是網(wǎng)絡(luò)安全部、基礎(chǔ)設(shè)施安全部、應(yīng)急通信部、國(guó)家風(fēng)險(xiǎn)管理中心、整合行動(dòng)部（Integrated Operations）和利益相關(guān)方參與部（Stakeholder Engagement）；任務(wù)實(shí)施辦公室則分別負(fù)責(zé)機(jī)構(gòu)人力資源、財(cái)務(wù)管理、經(jīng)濟(jì)分析、立法工作及對(duì)外培訓(xùn)和聯(lián)絡(luò)等事項(xiàng)。CISA還運(yùn)營(yíng)有一個(gè)GitHub主頁，用于公開發(fā)布該機(jī)構(gòu)所開發(fā)的一些網(wǎng)絡(luò)安全工具和軟件、代碼資源[8]。
CISA的現(xiàn)任主任是Jen Easterly。根據(jù)官網(wǎng)介紹，她畢業(yè)于西點(diǎn)軍校，擁有牛津大學(xué)哲學(xué)、政治和經(jīng)濟(jì)學(xué)學(xué)位，曾任摩根斯坦利公司業(yè)務(wù)彈性部（Firm Resilience）負(fù)責(zé)人并協(xié)助成立了摩根斯坦利的網(wǎng)絡(luò)安全聚合中心（Cybersecurity Fusion Center）。在美國(guó)政府和部隊(duì)服役逾20年；曾任美國(guó)總統(tǒng)奧巴馬的特別助理、美國(guó)國(guó)務(wù)卿兼國(guó)家安全顧問康多莉扎·賴斯（Condoleezza Rice）的行政助理以及美國(guó)國(guó)家安全局反恐部門副手等職；一度在海地、巴爾干、伊拉克和阿富汗等地從事情報(bào)和網(wǎng)絡(luò)活動(dòng)，并負(fù)責(zé)成立了美國(guó)的首支網(wǎng)絡(luò)部隊(duì)。獲有銅星勛章[9]。
（2）美國(guó)國(guó)家人工智能戰(zhàn)略
CISA在其官網(wǎng)的一篇新聞稿中明確，2023-2024年度人工智能路線圖“是一個(gè)與國(guó)家人工智能戰(zhàn)略相一致的全機(jī)構(gòu)計(jì)劃”，但未明確“國(guó)家人工智能戰(zhàn)略”的具體所指。據(jù)檢索，當(dāng)前最新的人工智能戰(zhàn)略性文件是拜登政府及其總統(tǒng)辦公室、美國(guó)國(guó)家科學(xué)技術(shù)理事會(huì)（National Science & Technology Council）人工智能專門委員會(huì)（Select Committee on Artificial Intelligence）于2023年5月份發(fā)布的《國(guó)家人工智能研究和發(fā)展戰(zhàn)略計(jì)劃（2023年更新）》[10][11]。該文件首先將人工智能確立為國(guó)家要?jiǎng)?wù)（AI as a National Priority），并隨后定義了九項(xiàng)總體戰(zhàn)略，包括對(duì)基礎(chǔ)和負(fù)責(zé)任人工智能研究進(jìn)行長(zhǎng)期投入；開發(fā)人與人工智能合作的有效方法；理解并解決人工智能相關(guān)的道德、法律和社會(huì)問題；確保人工智能系統(tǒng)安全無害、開發(fā)人工智能訓(xùn)練和測(cè)試的公開共享數(shù)據(jù)集、強(qiáng)化人工智能系統(tǒng)測(cè)評(píng)基準(zhǔn)和標(biāo)準(zhǔn)化等等。CISA的人工智能路線圖主要聚焦于人工智能系統(tǒng)安全領(lǐng)域。
（3）第14110號(hào)行政令
美國(guó)現(xiàn)任總統(tǒng)拜登2023年10月30日簽發(fā)題為“人工智能安全、無害且可信任開發(fā)和使用”的行政令（14100號(hào)行政令）[12]，CISA將該文件作為其路線圖制定的主要依據(jù)之一。第14100號(hào)行政令重點(diǎn)關(guān)注人工智能技術(shù)安全，就前沿人工智能技術(shù)所關(guān)聯(lián)的多項(xiàng)重大風(fēng)險(xiǎn)作出控制措施。行政令在第二部分“政策與原則”第一項(xiàng)提出，“人工智能必須安全無害”，并要求從智能系統(tǒng)穩(wěn)健、可靠、可復(fù)制的標(biāo)準(zhǔn)化測(cè)評(píng)方式及其與生物技術(shù)、網(wǎng)絡(luò)安全和關(guān)鍵基礎(chǔ)設(shè)施的關(guān)聯(lián)風(fēng)險(xiǎn)等方面解決問題。行政令第4.1條要求美國(guó)商務(wù)部、NIST及相關(guān)機(jī)構(gòu)在270天內(nèi)建立人工智能產(chǎn)業(yè)指引和最佳實(shí)踐標(biāo)準(zhǔn)；第4.2條要求美國(guó)商務(wù)部依據(jù)美國(guó)《國(guó)防生產(chǎn)法》等法律規(guī)定，對(duì)開發(fā)或意圖開發(fā)兩用基礎(chǔ)模型，或者持有此類模型權(quán)重，或者收購(gòu)/開發(fā)/擁有/生產(chǎn)達(dá)到一定規(guī)模或者算力的計(jì)算設(shè)施集群的企業(yè)、個(gè)人或組織實(shí)施強(qiáng)制定期報(bào)告、審查和合規(guī)義務(wù)。4.2條還要求開發(fā)兩用基礎(chǔ)模型（dual-use foundational model）的公司依據(jù)NIST所發(fā)布的人工智能紅隊(duì)測(cè)試指南進(jìn)行安全性評(píng)估，并在NIST發(fā)布相關(guān)指南之前，說明公司對(duì)于可能導(dǎo)致下列事項(xiàng)的發(fā)生門檻降低的紅隊(duì)測(cè)試結(jié)果：非國(guó)家行動(dòng)體獲取或利用生物武器、發(fā)現(xiàn)或利用軟件漏洞、影響或歪曲事實(shí)、程序自我復(fù)制或傳播。此外，公司還應(yīng)說明為實(shí)現(xiàn)前述安全目標(biāo)所采取的相關(guān)措施。行政令特別要求任何使用1026整數(shù)或浮點(diǎn)運(yùn)算算力訓(xùn)練的模型、主要基于生物序列數(shù)據(jù)進(jìn)行訓(xùn)練并使用大于1023整數(shù)或浮點(diǎn)運(yùn)算算力訓(xùn)練的模型，以及數(shù)據(jù)吞吐能力超過100GBPS或者運(yùn)算能力達(dá)到每秒1020次整數(shù)或浮點(diǎn)運(yùn)算以上的智能計(jì)算中心完成前述合規(guī)步驟，且該審查標(biāo)準(zhǔn)由國(guó)土安全部、能源部、科學(xué)技術(shù)政策辦公室等多個(gè)政府部門的秘書處聯(lián)合負(fù)責(zé)定期更新。第4.3條規(guī)定了在關(guān)鍵基礎(chǔ)設(shè)施和網(wǎng)絡(luò)安全領(lǐng)域管理人工智能的工作分工。第4.4條就人工智能所關(guān)聯(lián)的CBRN威脅（化學(xué)、生物、放射及核威脅）明確了特別控制措施，包括對(duì)CBRN威脅所關(guān)聯(lián)的生物病原體數(shù)據(jù)集進(jìn)行管理以及核酸序列預(yù)測(cè)技術(shù)的濫用；第4.5條明確了對(duì)合成內(nèi)容（synthetic content）及其關(guān)聯(lián)風(fēng)險(xiǎn)的管理控制措施。行政令還就“人工智能模型”、“人工智能紅隊(duì)測(cè)試”（AI red-teaming）、“犯罪預(yù)測(cè)”（crime forecasting）、“差分隱私保證”（differential-privacy guarantee）、“兩用基礎(chǔ)模型”（dual-use foundation model）、“自痊愈網(wǎng)絡(luò)”（self-healing network）、“水印”（watermarking）等多項(xiàng)技術(shù)術(shù)語進(jìn)行了定義。
關(guān)鍵定義
鑒于人工智能相關(guān)問題的復(fù)雜性，對(duì)于概念的共同理解是解決問題的基礎(chǔ)。CISA路線圖文末對(duì)多個(gè)關(guān)鍵術(shù)語進(jìn)行了定義，具體包括：
1. 人工智能（Artificial Intelligence, AI）
CISA路線圖中關(guān)于人工智能的定義援引了2020年美國(guó)人工智能倡議法案在有關(guān)人工智能的定義，具體指代：
“一個(gè)基于機(jī)器的系統(tǒng)，能夠在給定一個(gè)由人類定義的目標(biāo)集合的情況下，做出足以影響實(shí)體或虛擬環(huán)境的預(yù)測(cè)、推薦或決策。人工智能系統(tǒng)使用基于機(jī)器或者人類的輸入以達(dá)成如下目標(biāo)：A. 感知實(shí)體或虛擬環(huán)境；B. 以自動(dòng)化分析的方式將前述感知抽象為模型；C. 通過模型推理（model inference）構(gòu)建（formulate）信息或行動(dòng)選項(xiàng)?！?nbsp;
人工智能包括了機(jī)器學(xué)習(xí)。根據(jù)第14100號(hào)行政令，機(jī)器學(xué)習(xí)是指“一個(gè)方法集合，可被用于在一個(gè)基于任務(wù)的數(shù)據(jù)集上訓(xùn)練人工智能算法以提升其性能。”
2. 人工智能保證（AI Assurance）
CISA指出，人工智能社區(qū)和信息安全社區(qū)對(duì)于保證一詞有著不同的理解和定義。由于CISA路線圖與兩個(gè)領(lǐng)域都有關(guān)聯(lián)，故文件中若提到“保證”（assurance）一詞，即包括了兩個(gè)社區(qū)對(duì)于該詞的理解。具體包括：
·人工智能保證（AI Assurance）：指一個(gè)應(yīng)用于人工智能工程生命周期各個(gè)階段的過程，用于確保任何智能系統(tǒng)所輸出的結(jié)果是有效的（valid）、經(jīng)認(rèn)證的（verified）、數(shù)據(jù)驅(qū)動(dòng)的（data-driven）并且對(duì)外行人也是可信（trustworthy）且可解釋（explainable）的，在部署場(chǎng)景（context）下是道德的，并且對(duì)用戶是公平（fair）的。
·安全保證（Security Assurance）：衡量一個(gè)信息系統(tǒng)的安全特性（security features）、實(shí)踐（practices）、流程（procedures）和架構(gòu)（architecture）是否準(zhǔn)確地服務(wù)于（meditate）并且貫徹了（enforce）安全政策。
3. 人工智能安全（AI Security）
CISA認(rèn)為，人工智能安全是一個(gè)囊括了網(wǎng)絡(luò)安全下屬數(shù)個(gè)不同領(lǐng)域的術(shù)語。CISA路線圖中的人工智能安全主要涉及如下三個(gè)領(lǐng)域：
·人工智能在網(wǎng)絡(luò)安全領(lǐng)域的運(yùn)用（Applications of AI for cybersecurity）：CISA積極將人工智能工具運(yùn)用于威脅發(fā)現(xiàn)、遏制、漏洞評(píng)估等目的。
·人工智能賦能系統(tǒng)的網(wǎng)絡(luò)安全（Cybersecurity for AI-enabled systems）：CISA正將傳統(tǒng)網(wǎng)絡(luò)安全原則和實(shí)踐運(yùn)用于人工智能賦能系統(tǒng)的保護(hù)。此外，對(duì)于由人工智能賦能的軟件系統(tǒng)，CISA還通過鼓勵(lì)安全設(shè)計(jì)（secure-by-design）最佳實(shí)踐的方式推進(jìn)人工智能賦能系統(tǒng)的安全。
4. 紅隊(duì)測(cè)試（Red Teaming）
CISA路線圖引用了第14100號(hào)行政令關(guān)于紅隊(duì)測(cè)試的定義，即：
“...一種有結(jié)構(gòu)的測(cè)試行為，旨在尋找人工智能系統(tǒng)中的缺陷和漏洞，一般在一個(gè)受控環(huán)境中且與人工智能系統(tǒng)的開發(fā)者合作進(jìn)行。人工智能紅隊(duì)測(cè)試一般由專門的‘紅隊(duì)’采用對(duì)抗性方法（adversarial methods）實(shí)施，旨在識(shí)別缺陷、漏洞或者邏輯錯(cuò)誤，比如有害的或歧視性的人工智能系統(tǒng)輸出、未能預(yù)見的或不受歡迎的系統(tǒng)行為、有限性（limitations），或者潛在濫用行為所關(guān)聯(lián)的風(fēng)險(xiǎn)?！?nbsp;
5. 對(duì)抗性機(jī)器學(xué)習(xí)（Adversarial Machine Learning）
對(duì)抗性機(jī)器學(xué)習(xí)指惡意網(wǎng)絡(luò)行動(dòng)者（malicious cyber actors）以人工智能技術(shù)供應(yīng)鏈各環(huán)節(jié)漏洞為攻擊目標(biāo)，意圖引發(fā)超出系統(tǒng)所有者和運(yùn)營(yíng)者意圖的特定系統(tǒng)行為。CISA推薦參考NIST所發(fā)布的《對(duì)抗性機(jī)器學(xué)習(xí) 攻擊方式和緩解措施 分類和術(shù)語》報(bào)告[13]以及MITRE公司所運(yùn)營(yíng)的ATLAS知識(shí)庫(kù)所發(fā)布的《對(duì)抗性機(jī)器學(xué)習(xí)101》[14][15]以獲取有關(guān)對(duì)抗性機(jī)器學(xué)習(xí)的更多信息。
安全理念和工作目的
CISA路線圖以“設(shè)計(jì)安全”（Secure-by-design）為核心理念。文件指出，人工智能所面臨的安全挑戰(zhàn)總體上與前一代軟件安全挑戰(zhàn)相同，即制造商沒有遵從設(shè)計(jì)安全理念，從而將安全風(fēng)險(xiǎn)轉(zhuǎn)嫁至消費(fèi)者身上；盡管人工智能軟件系統(tǒng)與傳統(tǒng)軟件系統(tǒng)存在一定區(qū)別，基本安全實(shí)踐仍然適用。CISA認(rèn)為，人工智能系統(tǒng)生產(chǎn)商應(yīng)當(dāng)遵循安全設(shè)計(jì)原則。這意味著生產(chǎn)商應(yīng)當(dāng)面向消費(fèi)者承擔(dān)系統(tǒng)安全后果、以透明度和可問責(zé)性引領(lǐng)產(chǎn)品開發(fā)，并賦予安全設(shè)計(jì)以高業(yè)務(wù)優(yōu)先級(jí)。CISA強(qiáng)調(diào)，隨著人工智能愈發(fā)深入地嵌入各類關(guān)鍵系統(tǒng)，安全必須作為一項(xiàng)核心要求自始嵌入系統(tǒng)開發(fā)的整個(gè)周期。
與此同時(shí)，CISA路線圖援引了該機(jī)構(gòu)于《CISA戰(zhàn)略計(jì)劃 2023-2025》[16]中所提出的四項(xiàng)戰(zhàn)略性工作目的：
·目標(biāo)1 | 網(wǎng)絡(luò)防御（Cyber Defense）——將人工智能工具用于防御傳統(tǒng)網(wǎng)絡(luò)空間威脅和新興的人工智能威脅，同時(shí)將這類系統(tǒng)作為人工智能網(wǎng)絡(luò)威脅的防御客體進(jìn)行保護(hù)。
·目標(biāo)2 | 風(fēng)險(xiǎn)遏制和彈性（Risk Reduction & Resilience）——鑒于關(guān)鍵基礎(chǔ)設(shè)施的運(yùn)營(yíng)管理組織愈發(fā)頻繁地將人工智能系統(tǒng)用于維持和增進(jìn)彈性，CISA將引導(dǎo)并支持對(duì)于貫徹了設(shè)計(jì)安全理念的人工智能軟件系統(tǒng)負(fù)責(zé)任且風(fēng)險(xiǎn)自覺（risk-aware）的運(yùn)用。
·目標(biāo)3 | 行動(dòng)合作（Operational Collaboration）——隨著人工智能愈發(fā)促進(jìn)一個(gè)瞬息萬變的威脅格局（threat landscape）的生成，CISA將向美國(guó)公眾——包括關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域——傳遞有關(guān)威脅和風(fēng)險(xiǎn)的信息。此外，人工智能企業(yè)以及人工智能用例也可能面臨定向威脅，并且可能需要專門的響應(yīng)服務(wù)或者保護(hù)。
·目標(biāo)4 | 機(jī)構(gòu)統(tǒng)一（Agency Unification）——CISA將負(fù)責(zé)任地將人工智能軟件系統(tǒng)嵌入整個(gè)機(jī)構(gòu)（此處主要指自動(dòng)化系統(tǒng)的運(yùn)用對(duì)于公眾權(quán)益的影響[17]）；招募并培養(yǎng)一支有能力最大化利用人工智能軟件系統(tǒng)能力以實(shí)現(xiàn)CISA的使命的工作隊(duì)伍。
五條努力路線
圖 1 五條努力路線概覽
五條努力路線（Line of Effort, LOE）構(gòu)成了CISA路線圖的核心內(nèi)容。它們分別是：
1. LOE1 | 負(fù)責(zé)任地使用人工智能支持CISA的使命
CISA路線圖表示，CISA將使用人工智能驅(qū)動(dòng)的軟件工具強(qiáng)化網(wǎng)絡(luò)防御和保護(hù)關(guān)鍵基礎(chǔ)設(shè)施，并同時(shí)確保對(duì)人工智能的使用是負(fù)責(zé)、道德且無害的。這方面的預(yù)期成果包括：評(píng)估機(jī)構(gòu)現(xiàn)有的網(wǎng)絡(luò)安全項(xiàng)目，探尋人工智能的潛在運(yùn)用途徑，并為在合適位置融入人工智能提供資源、要求和監(jiān)管措施。具體包括五項(xiàng)目標(biāo)：
(1) 目標(biāo)1.1：建立對(duì)于CISA使用人工智能的治理和監(jiān)管機(jī)制。具體而言，CISA將依據(jù)NIST《人工智能風(fēng)險(xiǎn)管理框架》（AI RMF）[18]建立自己的人工智能管理檔案以幫助實(shí)現(xiàn)人工智能安全和隱私控制；落實(shí)一個(gè)在網(wǎng)絡(luò)防御任務(wù)背景下采用人工智能的綱領(lǐng)性架構(gòu)；評(píng)估活躍的人工智能用例；開發(fā)生成式技術(shù)在工作場(chǎng)景下的使用指南；處理人工智能數(shù)據(jù)獲取和使用問題。
(2)目標(biāo)1.2：收集、評(píng)估并優(yōu)先處理（Collect, review & prioritize）人工智能使用案例以支持CISA的任務(wù)。具體而言，CISA將創(chuàng)建一個(gè)機(jī)構(gòu)的人工智能使用案例庫(kù)（AI Use Case Inventory）以達(dá)成上述目標(biāo)。案例庫(kù)將覆蓋對(duì)于現(xiàn)有IT系統(tǒng)的改進(jìn)、合作工具、工作流程、關(guān)鍵基礎(chǔ)設(shè)施防御項(xiàng)目以及受推薦的人工智能模型訓(xùn)練數(shù)據(jù)集。
(3) 目標(biāo)1.3：開發(fā)下一代人工智能賦能技術(shù)的應(yīng)用戰(zhàn)略。為了在保障隱私和公民權(quán)利的同時(shí)在應(yīng)用人工智能方面保持領(lǐng)先地位，CISA將密切協(xié)調(diào)人工智能相關(guān)的研發(fā)工作，以解決任務(wù)需求方面的差距。
(4) 目標(biāo)1.4：將網(wǎng)絡(luò)防御、事件管理和矯正程序（redress procedures）融入人工智能系統(tǒng)和人工智能過程。具體而言，CISA將為人工智能使用建立事件響應(yīng)能力，包括必要的補(bǔ)救措施和矯正程序。此外，CISA還將在回顧信息技術(shù)安全實(shí)踐的同時(shí)采納一種對(duì)于人工智能系統(tǒng)的持續(xù)測(cè)評(píng)方法，以實(shí)現(xiàn)人工智能技術(shù)的安全嵌入。
(5) 目標(biāo)1.5：為限制CISA人工智能使用中的偏見（bias）探索全局性的方法。具體而言，CISA將在人工智能開發(fā)、測(cè)試、部署和維護(hù)過程中探索控制偏見的全局性方法。此外，CISA還將就人工智能使用案例庫(kù)的訓(xùn)練數(shù)據(jù)和公眾告知（public notice）開發(fā)一個(gè)質(zhì)量評(píng)估機(jī)制。
(6) 目標(biāo)1.6：為支持CISA的網(wǎng)絡(luò)安全任務(wù)，負(fù)責(zé)任且安全地部署人工智能系統(tǒng)。具體而言，CISA將探索用于網(wǎng)絡(luò)防御的人工智能能力的識(shí)別、測(cè)試、評(píng)估和部署，包括用于檢測(cè)美國(guó)政府軟件、系統(tǒng)和網(wǎng)絡(luò)中的關(guān)鍵漏洞并從中吸取經(jīng)驗(yàn)。
2. LOE2 | “保證”（Assure）人工智能系統(tǒng)
CISA路線圖表示，CISA將與包括聯(lián)邦機(jī)構(gòu)、私營(yíng)企業(yè)、州、地方、部落以及領(lǐng)地政府（SLTT）等利益相關(guān)方合作，開發(fā)最佳實(shí)踐和指南，以評(píng)估和促進(jìn)對(duì)于設(shè)計(jì)安全理念人工智能軟件系統(tǒng)的運(yùn)用。這方面的預(yù)期成果包括：盡早發(fā)現(xiàn)人工智能系統(tǒng)運(yùn)用中的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)和安全彈性挑戰(zhàn)以充分化解針對(duì)關(guān)鍵基礎(chǔ)設(shè)施的威脅；使得現(xiàn)有的安全指南和服務(wù)適應(yīng)于人工智能軟件系統(tǒng)，包括紅隊(duì)測(cè)試以及貫徹了安全設(shè)計(jì)理念的人工智能軟件設(shè)計(jì)；使得利益相關(guān)方了解人工智能漏洞如何嵌入既有的漏洞披露（vulnerability disclosure）協(xié)作體系[19]。具體而言，包括三項(xiàng)目標(biāo)：
(1) 目標(biāo)2.1：評(píng)估人工智能在關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域的運(yùn)用所帶來的網(wǎng)絡(luò)風(fēng)險(xiǎn)。CISA將評(píng)估部署人工智能在關(guān)鍵基礎(chǔ)設(shè)施系統(tǒng)中造成易受物理攻擊和網(wǎng)絡(luò)攻擊的途徑，并探索應(yīng)對(duì)這些漏洞的方法，包括采納NIST人工智能風(fēng)險(xiǎn)管理框架（NIST AI RMF1.0）以及其他適當(dāng)?shù)陌踩改?，以向關(guān)鍵基礎(chǔ)設(shè)施所有者和運(yùn)營(yíng)者提供可用的安全指南和最佳實(shí)踐。
(2) 目標(biāo)2.2：與關(guān)鍵基礎(chǔ)設(shè)施利益相關(guān)方接觸以認(rèn)定人工智能運(yùn)用所帶來的安全和彈性挑戰(zhàn)。
(3) 目標(biāo)2.3：捕獲人工智能在聯(lián)邦企業(yè)中被使用的廣度。對(duì)軟件物料清單（Software Bill of Materials, SBOM[20]）工具鏈進(jìn)行評(píng)估——包括SBOM格式標(biāo)準(zhǔn)以及自動(dòng)化SBOM收集和翻譯軟件——以評(píng)定人工智能軟件的覆蓋范圍。
(4) 目標(biāo)2.4：為安全人工智能系統(tǒng)的收購(gòu)、開發(fā)和運(yùn)營(yíng)開發(fā)最佳實(shí)踐與指南。除此之外，CISA還將為人工智能技術(shù)的安全使用提供指南，并將其融入CISA適用于人工智能及相關(guān)系統(tǒng)的跨部門網(wǎng)絡(luò)安全目標(biāo)（Cross-Sector Cybersecurity Performance Goals）[21]。
(5) 目標(biāo)2.5：驅(qū)動(dòng)采用強(qiáng)大的人工智能系統(tǒng)漏洞管理實(shí)踐（vulnerability management practices）。CISA將開發(fā)用于強(qiáng)化和測(cè)試人工智能系統(tǒng)的工具和方法，并將適當(dāng)?shù)膶?duì)抗性機(jī)器學(xué)習(xí)過程輸出和人工智能漏洞歸入美國(guó)國(guó)家漏洞數(shù)據(jù)庫(kù)（National Vulnerability Database）[22]。為此，需要按照協(xié)同漏洞披露機(jī)制（Coordinated Vulnerability Disclosure, CVD）[23]對(duì)人工智能系統(tǒng)漏洞進(jìn)行運(yùn)營(yíng)測(cè)試，并為人工智能系統(tǒng)和軟件安全測(cè)試以及紅隊(duì)測(cè)試起草戰(zhàn)略指引。開源軟件應(yīng)當(dāng)被重點(diǎn)關(guān)注。
(6) 目標(biāo)2.6：將安全設(shè)計(jì)倡議（Secure by Design Initiative）融入人工智能系統(tǒng)。CISA尤其鼓勵(lì)技術(shù)產(chǎn)品制造者本著安全設(shè)計(jì)理念開發(fā)和制造他們的產(chǎn)品，確保消費(fèi)者獲得的產(chǎn)品直接就是安全的。為此，CISA會(huì)把人工智能安全融入安全設(shè)計(jì)項(xiàng)目（Secure by Design program）[24]并開發(fā)一個(gè)研發(fā)流程以持續(xù)理解人工智能系統(tǒng)安全，并為此探尋合適的道路。
3. LOE3 | 保護(hù)關(guān)鍵基礎(chǔ)設(shè)施免受惡意使用人工智能的侵襲
CISA路線圖表示，CISA將與其他政府機(jī)構(gòu)以及開發(fā)、測(cè)試、評(píng)估人工智能工具的產(chǎn)業(yè)界伙伴合作，評(píng)估對(duì)于國(guó)家關(guān)鍵基礎(chǔ)設(shè)施的人工智能威脅，并推薦應(yīng)對(duì)方案。具體而言，CISA尋求達(dá)成如下代表性目標(biāo)：首先，通過與利益相關(guān)方接觸并實(shí)行“桌面演習(xí)”（tabletop exercise），保護(hù)人工智能系統(tǒng)免受對(duì)抗性操縱或者濫用；其次，通過發(fā)行和傳播如決策支持材料，比如關(guān)鍵基礎(chǔ)設(shè)施人工智能系統(tǒng)風(fēng)險(xiǎn)管理指南，支持貫穿關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域的風(fēng)險(xiǎn)管理實(shí)踐。包含三項(xiàng)具體目標(biāo)：
(1) 目標(biāo)3.1：定期與涉及開發(fā)人工智能工具的關(guān)鍵基礎(chǔ)設(shè)施利益相關(guān)方合作伙伴接觸以評(píng)估和解決安全擔(dān)憂，并評(píng)估對(duì)合作伙伴和利益相關(guān)方的教學(xué)方法。具體而言，CISA將以既有的機(jī)制為基礎(chǔ)，推動(dòng)人工智能安全領(lǐng)域的協(xié)同合作。美國(guó)信息技術(shù)部門協(xié)同理事會(huì)（Information Technology Sector Coordinating Council, IT SCC）[25]下屬人工智能工作小組也將持續(xù)為人工智能安全挑戰(zhàn)提供意見并為CISA的各項(xiàng)人工智能倡議提供反饋。CISA還將在網(wǎng)絡(luò)防御聯(lián)合協(xié)作計(jì)劃（Joint Cyber Defense Collaborative, JCDC）[26]項(xiàng)目下建立名為JCDC.AI的行動(dòng)項(xiàng)目以促進(jìn)對(duì)于影響人工智能系統(tǒng)的威脅、漏洞和應(yīng)對(duì)方案的緊密協(xié)作。
(2) 目標(biāo)3.2：利用CISA伙伴關(guān)系和工作組實(shí)現(xiàn)人工智能驅(qū)動(dòng)的威脅情報(bào)共享。CISA將利用機(jī)構(gòu)合作伙伴關(guān)系以及工作組（包括JCDC.AI）以就人工智能驅(qū)動(dòng)的威脅實(shí)現(xiàn)情報(bào)共享。CISA將與產(chǎn)業(yè)界、聯(lián)邦和國(guó)際伙伴接觸以理解不斷涌現(xiàn)的威脅并將它們與更廣泛的社區(qū)共享。
(3) 目標(biāo)3.3：評(píng)估關(guān)鍵基礎(chǔ)設(shè)施所面臨的人工智能風(fēng)險(xiǎn)。面對(duì)每個(gè)關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域的個(gè)性化需求和能力，并鑒于網(wǎng)絡(luò)安全對(duì)手愈發(fā)采用人工智能驅(qū)動(dòng)的軟件系統(tǒng)且網(wǎng)絡(luò)威脅格局因人工智能而擴(kuò)大，CISA將發(fā)布相關(guān)材料，以喚起對(duì)于不斷涌現(xiàn)的風(fēng)險(xiǎn)的警覺。CISA還將評(píng)估風(fēng)險(xiǎn)管理措施和方法論以認(rèn)定對(duì)于人工智能風(fēng)險(xiǎn)的恰當(dāng)分析框架和應(yīng)對(duì)措施，并識(shí)別必要的鞏固措施。
4. LOE4 | 就有關(guān)人工智能的關(guān)鍵工作，進(jìn)行機(jī)構(gòu)間、國(guó)際伙伴間以及與公眾的溝通合作
CISA路線圖表示，CISA將支持國(guó)土安全部所領(lǐng)導(dǎo)的有關(guān)人工智能驅(qū)動(dòng)軟件的機(jī)構(gòu)間流程，包括為美國(guó)政府的總體人工智能戰(zhàn)略制定政策方案，以及支持國(guó)土安全部關(guān)于人工智能軟件政策的整體行動(dòng)方案。此項(xiàng)努力路線也包含與國(guó)際伙伴進(jìn)行合作以推動(dòng)形成全球人工智能最佳實(shí)踐和原則。具體而言，CISA追求實(shí)現(xiàn)機(jī)構(gòu)的利益相關(guān)方圍繞人工智能安全的清晰指南達(dá)成一致，并通過評(píng)估在美國(guó)國(guó)內(nèi)機(jī)構(gòu)間以及在國(guó)際伙伴間合作開發(fā)的人工智能指南和政策文件的比例來衡量工作成果。包含五項(xiàng)具體目標(biāo)：
(1) 目標(biāo)4.1：支持開發(fā)國(guó)土安全部針對(duì)人工智能政策問題的整體行動(dòng)方案。CISA將與國(guó)土安全部的相關(guān)實(shí)體緊密合作，如國(guó)土安全部人工智能工作組（DHS AI Task Force），以在推進(jìn)CISA自身人工智能有關(guān)工作的時(shí)候，支持開發(fā)國(guó)土安全部針對(duì)人工智能政策問題的整體行動(dòng)方案。
(2) 目標(biāo)4.2：參與機(jī)構(gòu)間有關(guān)人工智能的政策會(huì)議和工作小組，以促進(jìn)形成連貫的、合作性的聯(lián)邦政府人工智能政策方法。
(3) 目標(biāo)4.3：基于對(duì)人工智能政策文件的戰(zhàn)略性、國(guó)家層面的視角，形成CISA自身的政策立場(chǎng)。CISA將基于戰(zhàn)略性和國(guó)家層面的視角應(yīng)對(duì)有關(guān)人工智能的政策文件，確保自身的戰(zhàn)略、要?jiǎng)?wù)和政策與機(jī)構(gòu)間規(guī)則（doctrine）保持一致。CISA將驅(qū)動(dòng)政策決定以支持關(guān)鍵基礎(chǔ)設(shè)施股票（critical infrastructure equities）并將國(guó)家戰(zhàn)略層面的視角融入關(guān)鍵人工智能政策文件。此外，為了強(qiáng)化有關(guān)人工智能保證的公眾意識(shí)，CISA還將開發(fā)關(guān)于人工智能保證的刊物。
(4) 目標(biāo)4.4：確保CISA的戰(zhàn)略、要?jiǎng)?wù)和政策框架與機(jī)構(gòu)間政策和戰(zhàn)略保持一致。CISA將致力于機(jī)構(gòu)間合作以確保CISA的政策和戰(zhàn)略與政府對(duì)于人工智能的總體方針保持一致。
(5) 目標(biāo)4.5：與國(guó)際伙伴就全球人工智能安全問題進(jìn)行接觸。CSIA將與其他聯(lián)邦部門和國(guó)際伙伴共同開發(fā)和敲定人工智能安全指南，就人工智能全球安全問題與國(guó)際伙伴接觸，鼓勵(lì)采納安全人工智能的最佳實(shí)踐。
5. LOE5 | 強(qiáng)化工作隊(duì)伍的人工智能能力
CISA將持續(xù)就人工智能軟件系統(tǒng)和技能對(duì)其工作隊(duì)伍進(jìn)行教育，并積極地招募具備人工智能專業(yè)技能的實(shí)習(xí)生、會(huì)員（fellows）和將來的雇員。CISA會(huì)確保其內(nèi)部培訓(xùn)得當(dāng)?shù)胤从沉巳斯ぶ悄苘浖到y(tǒng)的法律、道德和政策方面內(nèi)容，并且新招募的成員理解這些內(nèi)容，而不是僅了解技術(shù)方面內(nèi)容。包含四項(xiàng)具體目標(biāo)：
(1) 目標(biāo)5.1：連接并且強(qiáng)化CISA工作隊(duì)伍中既存的人工智能專業(yè)素養(yǎng)。作為美國(guó)的網(wǎng)絡(luò)防御機(jī)構(gòu)，CISA已經(jīng)擁有一支由網(wǎng)絡(luò)安全專家組成的強(qiáng)大的工作隊(duì)伍。在此基礎(chǔ)上，CISA將在內(nèi)部識(shí)別并充分發(fā)揮既有的人工智能專業(yè)素養(yǎng)。CISA還將在內(nèi)部建立一個(gè)人工智能實(shí)踐社區(qū)，以促進(jìn)內(nèi)部參與，同時(shí)維系每個(gè)人工智能活動(dòng)領(lǐng)導(dǎo)部門間的關(guān)鍵聯(lián)結(jié)點(diǎn)，使得CISA能夠緊密合作以拓展其人工智能能力。
(2) 目標(biāo)5.2：招募具備人工智能專業(yè)技能的實(shí)習(xí)生、會(huì)員及人員。CSIA將通過網(wǎng)絡(luò)人才管理系統(tǒng)（Cyber Talent Management System, CTMS）[27]等多種途徑招募人員，以維系和發(fā)展自身的人工智能工作隊(duì)伍。
(3) 目標(biāo)5.3：就人工智能對(duì)CISA的工作隊(duì)伍進(jìn)行培訓(xùn)。CISA將持續(xù)為其雇員提供培訓(xùn)機(jī)會(huì)，幫助其具備足夠的知識(shí)與技能以理解、革新以及得當(dāng)?shù)剡\(yùn)用由人工智能帶來的各種現(xiàn)有的和新興的能力。
(4) 目標(biāo)5.4：在CISA工作中所有運(yùn)用了人工智能的領(lǐng)域，確保CISA的內(nèi)部培訓(xùn)得當(dāng)?shù)厝谌肓巳斯ぶ悄芟嚓P(guān)的法律、道德和政策考量，而不僅僅是技術(shù)技能。
影響和社會(huì)評(píng)價(jià)
多家媒體對(duì)CISA路線圖進(jìn)行了報(bào)道，一些產(chǎn)業(yè)界人士對(duì)此發(fā)表了評(píng)論。KnowBe4（一家提供IT安全培訓(xùn)服務(wù)的公司）的創(chuàng)始人兼首席執(zhí)行官Stu Sjouwerman對(duì)CISA路線圖將安全責(zé)任置于人工智能開發(fā)者而不是消費(fèi)者的做法給予高度評(píng)價(jià)。他指出：“過去，人工智能軟件制造商一直抵制構(gòu)建貫徹了設(shè)計(jì)安全理念的軟件產(chǎn)品，把負(fù)擔(dān)轉(zhuǎn)嫁給消費(fèi)者。CISA人工智能路線圖要求人工智能系統(tǒng)制造商在整個(gè)開發(fā)生命周期中貫徹安全設(shè)計(jì)原則，包括將設(shè)計(jì)安全作為首要業(yè)務(wù)重點(diǎn)、為安全后果負(fù)責(zé)，并以徹底的透明度和問責(zé)制領(lǐng)導(dǎo)產(chǎn)品開發(fā)?！盵28]
“這是朝著正確方向邁出的一步——表明政府正在認(rèn)真對(duì)待人工智能的益處和潛在威脅。這份路線圖描繪了利用人工智能增強(qiáng)網(wǎng)絡(luò)安全、保護(hù)關(guān)鍵基礎(chǔ)設(shè)施和促進(jìn)合作的全面戰(zhàn)略，還強(qiáng)調(diào)了人工智能系統(tǒng)安全設(shè)計(jì)和開發(fā)的重要性?！盝oseph Thacker，AppOmni（一家位于舊金山的SaaS安全服務(wù)公司）的人工智能安全研究員評(píng)論道，“路線圖非常全面，基本毫無遺漏。但在安全方面，真正重要的是細(xì)節(jié)，在新技術(shù)方面則更是如此。CISA保持不掉隊(duì)能力可能取決于他們吸納人才或培訓(xùn)內(nèi)部人員的能力，而這兩者都很難大規(guī)模實(shí)現(xiàn)?！盵29]
相關(guān)政策活動(dòng)仍在進(jìn)行中。3月26日，CISA的首席收購(gòu)官辦公室（Office of the Chief Acquisition Executive）舉辦了一場(chǎng)產(chǎn)業(yè)界參與活動(dòng)，題為“面向未來系列：對(duì)CISA人工智能路線圖和人工智能安全倡議的討論”[30]。
[1] CISA Roadmap for AI. See https://www.cisa.gov/sites/default/files/2023-11/2023-2024_CISA-Roadmap-for-AI_508c.pdf last visited: 2/29/2024.
[2] Guidelines for Secure AI System Development. See https://www.ncsc.gov.uk/files/Guidelines-for-secure-AI-system-development.pdf last visited: 2/29/2024.
[3] Roadmap for AI. See https://www.cisa.gov/resources-tools/resources/roadmap-ai last visited: 2/29/2024.
[4] Homeland Security - Organizational Chart. See https://www.dhs.gov/organizational-chart & https://www.dhs.gov/sites/default/files/2023-11/23_1109_mgmt_dhs-public-org-chart-508.pdf last visited: 3/1/2024.
[5] H.R.3359 - Cybersecurity and Infrastructure Security Agency Act of 2018. See https://www.congress.gov/bill/115th-congress/house-bill/3359 last visited: 3/1/2024.
[6] https://web.archive.org/web/20190219233958/https://www.zdnet.com/article/trump-signs-bill-that-creates-the-cybersecurity-and-infrastructure-security-agency/
[7] America’s Cyber Defense Agency. See https://www.cisa.gov/about last visited: 3/1/2024.
[8] See https://github.com/orgs/cisagov/projects?query=is%3Aopen last visited: 3/1/2024.
[9] Jen Easterly - Director. See https://www.cisa.gov/about/leadership/jen-easterly last visited: 3/1/2024.
[10] FACT SHEET: Biden - Harris Administration Takes New Steps to Advance Responsible Artificial Intelligence Research, Development, and Deployment. See https://www.whitehouse.gov/briefing-room/statements-releases/2023/05/23/fact-sheet-biden-harris-administration-takes-new-steps-to-advance-responsible-artificial-intelligence-research-development-and-deployment/ last visited: 3/1/2024.
[11] National Artificial Intelligence Research and Development Plan - 2023 Update. See https://www.whitehouse.gov/wp-content/uploads/2023/05/National-Artificial-Intelligence-Research-and-Development-Strategic-Plan-2023-Update.pdf last visited: 3/1/2024.
[12] Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence. (Executive Order 14110) See https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/ last visited: 3/1/2024.
[13] Vassilev A, Oprea A, Fordyce A, et al. Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations[J]. 2024.
[14] Adversarial Threat Landscape for Artificial-Intelligence Systems (ATLAS). See https://atlas.mitre.org/ last visited: 3/2/2024.
[15] Adversarial Machine Learning 101. See https://atlas.mitre.org/resources/adversarial-ml-101/ last visited: 3/2/2024.
[16] 2023-2025 Strategic Plan. See https://www.cisa.gov/resources-tools/resources/2023-2025-strategic-plan last visited: 3/3/2024.
[17] Applying the Blueprint for an AI Bill of Rights. See https://www.whitehouse.gov/ostp/ai-bill-of-rights/applying-the-blueprint-for-an-ai-bill-of-rights/ last visited: 3/4/2024.
[18] NIST AI Risk Management Framework. See https://www.nist.gov/itl/ai-risk-management-framework last visited: 3/4/2024.
[19] Coordinated Vulnerability Disclosure Process. See https://www.cisa.gov/coordinated-vulnerability-disclosure-process last visited: 3/10/2024.
[20] Software Bill of Materials (SBOM). See https://www.cisa.gov/sbom last visied: 3/16/2024.
[21] Cross-Sector Cybersecurity Performance Goals. See https://www.cisa.gov/cross-sector-cybersecurity-performance-goals last visited: 3/16/2024.
[22] National Vulnerability Databas. See https://nvd.nist.gov/ last visited: 3/16/2024.
[23] Coordinated Vulnerability Disclosure Process. See https://www.cisa.gov/coordinated-vulnerability-disclosure-process last visited: 3/16/2024.
[24] Secure by Design. See https://www.cisa.gov/securebydesign last visited: 3/16/2024.
[25] IT Sector Coordinating Council. See https://www.it-scc.org/about.html last visited: 3/16/2024.
[26] Joint Cyber Defense Collaborative. See https://www.cisa.gov/topics/partnerships-and-collaboration/joint-cyber-defense-collaborative last visited: 3/16/2024.
[27] DHS’ cyber talent management system slowly gaining traction. See https://federalnewsnetwork.com/cybersecurity/2023/04/dhs-cyber-talent-management-system-slowly-gaining-traction/ last visited: 3/16/2024.
[28] CISA's Road Map: Charting a Course for Trustworthy AI Development. See https://www.darkreading.com/vulnerabilities-threats/cisa-s-ai-road-map-charting-a-course-for-trustworthy-ai-development last visited: 3/16/2024.
[29] DHS AI roadmap prioritises cybersecurity and national safety. See https://www.artificialintelligence-news.com/2023/11/15/dhs-ai-roadmap-prioritises-cybersecurity-national-safety/ last visited: 3/16/2024.
[30] CISA to host discussion of its AI Roadmap. See https://intelligencecommunitynews.com/cisa-to-host-discussion-of-its-ai-roadmap/ last visited: 3/16/2024.
來源：清華大學(xué)智能法治研究院
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
