6月3日，北京智源大會期間，由北京瑞萊智慧科技有限公司與阿里安全聯(lián)合舉辦的“AI安全與產(chǎn)業(yè)治理”論壇正式召開。
中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸，北京市經(jīng)濟和信息化局郭家義、中國信息通信研究院安全所信息安全研究部主任魏薇、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟辦公室主任、信通院云大所人工智能部副主任石霖、瑞萊智慧RealAI田天、阿里巴巴安全部技術(shù)總監(jiān)薛暉、百度安全主任架構(gòu)師包沉浮等在內(nèi)的數(shù)十位專家出席本次會議，圍繞人工智能安全可控發(fā)展這一關(guān)鍵性話題展開深入探討。
人工智能亟待發(fā)展“安全可控”新能力
在學(xué)術(shù)論道環(huán)節(jié)，中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸在致辭中表示，未來人工智能產(chǎn)業(yè)發(fā)展在擴大應(yīng)用場景的同時，必須實現(xiàn)數(shù)據(jù)、算法與應(yīng)用層的安全可控。同時，他表示人工智能的安全可控問題要同步從技術(shù)層面來解決。在具體的實現(xiàn)路徑上，張鈸院士提出發(fā)展“第三代人工智能”，即融合了第一代的知識驅(qū)動和第二代的數(shù)據(jù)驅(qū)動的人工智能，利用知識、數(shù)據(jù)、算法和算力四個要素，建立新的可解釋和魯棒的AI理論與方法，發(fā)展安全、可信、可靠和可擴展的AI技術(shù)。
北京市經(jīng)濟和信息化局郭家義對論壇的召開表示祝賀，對發(fā)展第三代人工智能表達了充分的期待。他認為，當(dāng)今世界正處于新一輪科技與產(chǎn)業(yè)大變革的偉大時代，人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，正在深刻改變世界，但隨著人工智能的快速發(fā)展，各種安全問題也接踵而至。第三代人工智能的提出恰逢其時，將助力我國實現(xiàn)人工智能在安全可信領(lǐng)域的突破,也必將對北京進一步落實國際科技創(chuàng)新中心定位、構(gòu)建首都高精尖經(jīng)濟結(jié)構(gòu)產(chǎn)生積極的影響。
作為第三代人工智能的踐行者與引領(lǐng)者，瑞萊智慧CEO田天表示，現(xiàn)階段人工智能產(chǎn)業(yè)正經(jīng)歷從高速增長向高質(zhì)量發(fā)展的轉(zhuǎn)變，產(chǎn)業(yè)期待的提升讓金融、醫(yī)療等更復(fù)雜的高價值場景的應(yīng)用需求不斷增加，安全性的重視程度也不斷提升，但由于傳統(tǒng)技術(shù)范式存在天然的算法漏洞和缺陷，難以支撐人工智能的長久高質(zhì)量發(fā)展，為此田天提出，需加快發(fā)展第三代人工智能，發(fā)展“安全、可控”核心能力。
如何定義人工智能的“安全可控”？田天闡述道，“安全”是指打造數(shù)據(jù)安全與算法安全兩大核心能力，解決數(shù)據(jù)強依賴帶來的隱私泄漏與數(shù)據(jù)投毒等隱患，同時提升算法的魯棒性與可靠性，“可控”既指應(yīng)用層面的合規(guī)可控，更指核心技術(shù)的自主可控，以自主可控為根基，通過理論創(chuàng)新、技術(shù)突破形成核心競爭力。安全可控是發(fā)展第三代人工智能的核心基準，也是加快人工智能高質(zhì)量發(fā)展的有力支撐，田天強調(diào)。
數(shù)據(jù)的不安全和算法的不安全是制約當(dāng)前人工智能產(chǎn)業(yè)發(fā)展的主要因素，也是發(fā)展安全可控人工智能需要解決的核心問題。伴隨人工智能產(chǎn)業(yè)應(yīng)用的不斷深化，人工智能安全問題將迎來大規(guī)模爆發(fā)。中國信息通信研究院安全所信息安全研究部主任魏薇表示，人工智能與數(shù)據(jù)產(chǎn)業(yè)互促發(fā)展的同時安全問題也交織影響，一方面人工智能對數(shù)據(jù)強依賴的發(fā)展特性導(dǎo)致其面臨的自身數(shù)據(jù)安全風(fēng)險、應(yīng)用導(dǎo)致的數(shù)據(jù)安全風(fēng)險以及應(yīng)用加劇的數(shù)據(jù)治理挑戰(zhàn)日益凸顯，另一方面，人工智能也為數(shù)據(jù)治理工作提供自動化、智能化、高效化、精準化的智慧支撐。圍繞發(fā)展與安全并舉的治理思路，魏薇從倫理規(guī)范、法律法規(guī)、標(biāo)準體系、技術(shù)手段、人才培養(yǎng)等角度出發(fā)提出多項數(shù)據(jù)安全治理建議，為實現(xiàn)人工智能行業(yè)數(shù)據(jù)安全合規(guī)實踐提供支撐。
相較數(shù)據(jù)安全，算法安全問題仍處于剛“興起”階段，但其安全危害仍然不容小覷。阿里安全資深算法專家何源介紹道，雖然人工智能技術(shù)已經(jīng)在凈化網(wǎng)絡(luò)環(huán)境、知識產(chǎn)權(quán)保護、生物識別、線下安防等安全工作中發(fā)揮著越來越大的助力作用，讓安全更智能，但其本身也面臨著魯棒性不夠、可解釋性差、技術(shù)濫用等安全風(fēng)險，比如算法漏洞的存在可以針對圖像檢索系統(tǒng)開展攻擊，導(dǎo)致非原創(chuàng)圖片逃逸檢測等，對網(wǎng)站安全與商家權(quán)益造成威脅等。
百度安全主任架構(gòu)師包沉浮也表示，算法安全風(fēng)險的實際危害正逐步體現(xiàn)，自動駕駛場景下，模型魯棒性的欠缺將導(dǎo)致自動駕駛系統(tǒng)在對抗環(huán)境或光線、天氣條件多變的復(fù)雜環(huán)境中發(fā)生錯誤識別而引發(fā)嚴重后果。除了算法安全外，他認為人工智能安全還包含“實現(xiàn)安全”。他強調(diào)，代碼安全與場景安全的“實現(xiàn)安全”也直接影響著AI系統(tǒng)最終決策的完整性與安全性。
二、實現(xiàn)人工智能安全可控需配套“基礎(chǔ)設(shè)施”
發(fā)展安全可控的人工智能是一項系統(tǒng)性的工作，需要行業(yè)標(biāo)準、法律規(guī)范等治理工作與技術(shù)發(fā)展等多個維度共同推進，打造與之配套的“基礎(chǔ)設(shè)施”。
針對算法治理路徑的探索，清華大學(xué)人工智能治理研究院副院長梁正從社會治理的角度提出，算法模型存在難以解釋、難以控制、難以問責(zé)的特征，可能導(dǎo)致歧視、脆弱不穩(wěn)定、操縱剝削、信息繭房等安全風(fēng)險。與國際算法治理經(jīng)驗相比，國內(nèi)的治理依據(jù)雖然初步形成，雖然政策引導(dǎo)、標(biāo)準指南、法律規(guī)章等相繼發(fā)布，但尚未形成完善的治理體系。如何開展算法治理工作？他提出，首先需進行分領(lǐng)域、分級治理，并確定治理優(yōu)先級，目前聚焦于利用個人信息進行的自動化決策系統(tǒng)，未來聚焦于涉及人身安全的高風(fēng)險領(lǐng)域，同時在算法治理中識別和區(qū)分規(guī)則問題和技術(shù)問題，采取針對性的措施，以及堅持安全、公平、透明和隱私等基本原則，實現(xiàn)負責(zé)任的人工智能。
針對人工智能發(fā)展中隱私和數(shù)據(jù)保護的解決路徑，中倫律師事務(wù)所合伙人陳際紅表示，《網(wǎng)絡(luò)安全法》與不久后將出臺的《個人信息保護法》、《數(shù)據(jù)安全法》將構(gòu)成我國數(shù)據(jù)保護與監(jiān)管的“三駕馬車”，為數(shù)據(jù)保護提供嚴格的法律環(huán)境，但人工智能產(chǎn)業(yè)發(fā)展對于大數(shù)據(jù)、實時數(shù)據(jù)、數(shù)據(jù)融合的需求將與這些數(shù)據(jù)保護原則產(chǎn)生沖突。為此他建議，一方面企業(yè)應(yīng)主動做合規(guī)，在產(chǎn)品開發(fā)、產(chǎn)品技術(shù)架構(gòu)預(yù)先主動防范風(fēng)險，將隱私的概念引入到產(chǎn)品生命周期之內(nèi)，另一方面他也呼吁立法機構(gòu)要兼顧隱私保護和產(chǎn)業(yè)發(fā)展的平衡，社會普遍接受的良好隱私保護理念加上嚴格的法律環(huán)境是助推技術(shù)長久發(fā)展的兩翼。
除了從政策、法規(guī)方面，技術(shù)基礎(chǔ)設(shè)施的打造仍將發(fā)揮起基礎(chǔ)性的作用。作為第三代人工智能領(lǐng)域的踐行者與領(lǐng)導(dǎo)者，RealAI推出了一系列更加安全可控的人工智能基礎(chǔ)設(shè)施，基于安全多方計算、聯(lián)邦學(xué)習(xí)、匿蹤查詢等技術(shù)打造的數(shù)據(jù)安全共享基礎(chǔ)設(shè)施RealSecure，用于解決數(shù)據(jù)隱私難題；針對AI系統(tǒng)推出的防火墻與殺毒軟件平臺RealSafe，能夠為人臉識別、目標(biāo)檢測、圖像分類等應(yīng)用提供有效的安全檢測與防御加固服務(wù)。田天表示，這一系列基礎(chǔ)設(shè)施將打開AI能力的全新維度，為人工智能產(chǎn)業(yè)治理工作提供有效工具支撐。
尤其人工智能算法安全性的提升本質(zhì)上是對抗攻防不斷升級的過程，但是如何全面、客觀、科學(xué)地衡量算法模型的安全性，是目前工業(yè)界和學(xué)術(shù)界都面臨的難題。針對這一難題，清華大學(xué)聯(lián)合阿里安全和RealAI聯(lián)合發(fā)布業(yè)內(nèi)首個基于深度學(xué)習(xí)模型的對抗攻防基準平臺（Adversarial Robustness Benchmark），此基準可以更加公平、全面地衡量不同算法的效果，提供方便使用的魯棒性測試工具，全面衡量AI模型的安全性，用戶通過提交模型的方式可以獲取安全性的得分。
不同于之前只包含零散攻防模型的對抗攻防基準，此次推出AI對抗安全基準基本上包括了目前主流的人工智能對抗攻防模型，涵蓋了數(shù)十種典型的攻防算法。不同算法比測的過程中盡量采用了相同的實驗設(shè)定和一致的度量標(biāo)準，從而在最大限度上保證了比較的公平性。除此之外，本次發(fā)布的AI安全排行榜也包括了剛剛結(jié)束的CVPR2021人工智能攻防競賽中誕生的排名前5代表隊的攻擊算法。此次競賽吸引到了全球2000多支代表隊提交的最新算法，進一步提升了該安全基準的科學(xué)性和可信性。“通過對AI算法的攻擊結(jié)果和防御結(jié)果進行排名、比較不同算法的性能，建立AI安全基準具有重要學(xué)術(shù)意義，可以更加公平、全面地衡量不同算法的效果。”朱軍介紹道。
三、安全可控人工智能將重塑產(chǎn)業(yè)智能
在“新基建”浪潮的驅(qū)動下，人工智能產(chǎn)業(yè)即將迎來與傳統(tǒng)產(chǎn)業(yè)深度融合的機遇期。田天表示，在安全可控的核心支撐下，可以高效的貢獻人工智能的技術(shù)優(yōu)勢，重塑產(chǎn)業(yè)智能，實現(xiàn)從“單點自動化”到“深度智能化”的價值提升。他提到，在金融領(lǐng)域，人工智能的創(chuàng)新融合正為金融場景打造出一個兼具決策分析與感官感知的“智慧大腦”。在安全可控的支撐下，“智慧大腦”能夠拓展全新能力邊界，實現(xiàn)更好的決策左腦與更加安全可靠的感知右腦。同時，他介紹到，RealAI基于多方安全計算、聯(lián)邦學(xué)習(xí)、人工智能安全攻防等技術(shù)打造了一套結(jié)合“數(shù)據(jù)保障、算法檢測、應(yīng)用管控”的可信人臉完整解決方案，在保障人臉隱私安全、數(shù)據(jù)泄漏溯源、算法安全評估、信息合規(guī)等做前提下，推動人臉識別在關(guān)鍵的社會公共服務(wù)場景下的深度應(yīng)用。
中國工商銀行軟件開發(fā)中心大數(shù)據(jù)與人工智能實驗室副主任在其演講中介紹道，工行在現(xiàn)有人工智能技術(shù)體系基礎(chǔ)上，圍繞“軟硬件運營環(huán)境可信、數(shù)據(jù)隱私保護、算法模型安全”三大核心能力建設(shè)出金融領(lǐng)域的人工智能技術(shù)安全可信能力，保障人工智能大規(guī)模應(yīng)用的合法合規(guī)、安全可信。他強調(diào)，AI安全是AI大規(guī)模應(yīng)用的前提和必備條件，同時AI可信能力必須是全棧且覆蓋模型全生命周期，通過安全可信技術(shù)的研究和突破，提升規(guī)?；疉I生產(chǎn)部署的安全可信支撐能力，可以增強多方數(shù)據(jù)生產(chǎn)要素的融合能力，為數(shù)字經(jīng)濟社會提供更高效率、更低成本、更低門檻的普惠金融服務(wù)。
金融行業(yè)作為高度數(shù)據(jù)化的行業(yè)，數(shù)據(jù)隱私保護是必然趨勢。建信金融科技有限公司創(chuàng)新實驗室總經(jīng)理王雪表示，隱私保護計算作為前瞻性的安全可信技術(shù)，能夠在隱私保護基礎(chǔ)上實現(xiàn)數(shù)據(jù)價值最大化，通過多方數(shù)據(jù)融合分析，最大程度挖掘數(shù)據(jù)價值，在滿足監(jiān)管要求的前提下實現(xiàn)數(shù)據(jù)互聯(lián)互通，通過新的業(yè)務(wù)模式擴展外部數(shù)據(jù)連接，解決數(shù)據(jù)供給側(cè)和需求側(cè)匹配的問題，深入金融數(shù)字化轉(zhuǎn)型。
除此，針對應(yīng)用場景豐富且產(chǎn)業(yè)潛力巨大的智能制造領(lǐng)域，同樣需要構(gòu)建魯棒安全的AI系統(tǒng)。三一集團無人駕駛科學(xué)家、三一機器人科技有限公司副所長賈全介紹道，智慧物流是無人駕駛技術(shù)在智慧工廠中的典型應(yīng)用。在實際作業(yè)過程中，需要在高干擾的生產(chǎn)環(huán)境場景下高效高精度的完成工作，同時系統(tǒng)還面臨著硬件平臺與軟件平臺的安全挑戰(zhàn)，為此三一機器人正通過產(chǎn)學(xué)研的緊密合作共筑產(chǎn)業(yè)安全，推動智能制造健康可控發(fā)展。
安全可控人工智能在各行業(yè)領(lǐng)域的應(yīng)用將進入專業(yè)化的深層次融合階段，面向垂直領(lǐng)域需求挖掘深層次應(yīng)用潛力。廣電運通信息科技有限公司總經(jīng)理田豐表示，基于人工智能技術(shù)底座打造智能引擎，圍繞智慧金融、智慧安全、智慧交通、智慧便民等業(yè)務(wù)領(lǐng)域賦能城市智能產(chǎn)業(yè)發(fā)展，在安全可控的基礎(chǔ)上，將能夠推動全要素高質(zhì)量發(fā)展，深化城市智能戰(zhàn)略布局。
最后圓桌環(huán)節(jié)，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟辦公室主任、信通院云大所人工智能部副主任石霖與浦發(fā)銀行創(chuàng)新實驗室業(yè)務(wù)專家李鋒、光大銀行多方安全數(shù)據(jù)智能實驗室主任李成、滴滴安全安全產(chǎn)品專家孫以強、瑞萊智慧RealAI聯(lián)合創(chuàng)始人劉荔園圍繞安全可控人工智能的產(chǎn)業(yè)應(yīng)用展開研討。
在安全可控的助力下，“深度智能”時代正將加速到來，人工智能在各行業(yè)領(lǐng)域的應(yīng)用廣度和深度將不斷得到拓展。人工智能的未來圖景充滿想象，但要實現(xiàn)真正的人工智能仍面臨諸多深層挑戰(zhàn)，田天表示，第三代人工智能通過釋放“數(shù)據(jù)、知識、算法、算力”的全新維度，為實現(xiàn)安全可控的新一代人工智能提供可能，讓人工智能走出“淺層智能”的舒適區(qū)，重塑全新的產(chǎn)業(yè)價值。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
