三大維度護航AI時代 百度馬杰百度世界大會詳解AI安全版圖

以“萬物智能”為主題,一年一度的百度世界2020大會于9月15日正式揭幕。在百度大腦分論壇上,百度副總裁馬杰發(fā)表了題為“智能為腦,安全為本”的主題演講,系統(tǒng)闡述了百度大腦在AI安全領(lǐng)域一系列能力布局和最新進展。

眾所周知,隨著萬物互聯(lián)和大規(guī)模智能協(xié)作的逐漸深入,人類正在進入一個經(jīng)濟深度智能化的發(fā)展階段。作為其中的核心議題,AI在安全方面的諸多挑戰(zhàn)不僅關(guān)系到整個AI體系的穩(wěn)定可靠,直接影響到AI算力、算法和數(shù)據(jù)的落地應(yīng)用,也為相應(yīng)的安全能力建設(shè)提出了新的要求與新的思維方式。

三大維度護航AI時代 百度馬杰百度世界大會詳解AI安全版圖

(百度副總裁馬杰)

面對一系列全新的安全挑戰(zhàn),馬杰在演講中將AI安全問題劃分為Security、Safety和Privacy三個維度進行考量,并由此探尋更具針對性的解決方案。

在Security,即在強對抗環(huán)境下的安全威脅層面,來自物理世界和數(shù)字世界的攻擊可能導致探測裝置和深度學習模型做出誤判,造成AI系統(tǒng)在工作過程中的“指鹿為馬”、“無中生有”和“有中生無”。

而來自非對抗條件下自然環(huán)境所產(chǎn)生的真實威脅、即Safety層面真實世界中環(huán)境因素對輸入數(shù)據(jù)的正常擾動,也有可能對深度學習模型的分類和預(yù)測造成影響。

為此,百度推出了模型魯棒性體系化評估框架。從光照、空間變換、模糊、噪聲和天氣變化等多項安全屬性著手,根據(jù)不同模型任務(wù)場景制定評估標準,幫助行業(yè)更好地量化評估潛在的安全威脅與模型魯棒性。同時,百度還首創(chuàng)了AdvBox對抗樣本工具箱。從安全驗證、模型加固、對抗樣本檢測、模型魯棒性形式化驗證等多個方面,助力飛槳、TensorFlow等主流機器學習平臺快速提升模型的健壯性。

三大維度護航AI時代 百度馬杰百度世界大會詳解AI安全版圖

而在Privacy、即數(shù)據(jù)安全與隱私保護層面,貫穿于采集、處理、流通、計算整個數(shù)據(jù)生命周期,隱私合規(guī)檢測、差分隱私、AI自動脫敏、聯(lián)邦計算、可信計算等安全技術(shù)的應(yīng)用將為百億級大規(guī)模數(shù)據(jù)的安全聯(lián)合計算創(chuàng)造可能,也將為金融、醫(yī)療、政務(wù)等領(lǐng)域的聯(lián)合分析、聯(lián)合風控、聯(lián)合營銷提供數(shù)據(jù)安全保障,進一步釋放數(shù)據(jù)價值,擴大AI時代大規(guī)模數(shù)據(jù)協(xié)作的信任邊界。

目前,依托PaddleFL聯(lián)邦學習開源框架,百度領(lǐng)先的聯(lián)邦學習和有隱私保護的機器學習能力已與百度大腦深度融合,為飛槳在產(chǎn)業(yè)應(yīng)用中的跨組織數(shù)據(jù)合作提供重要的輔助工具支撐。

“我們希望通過長期的研究與實踐,能夠跑到這些威脅造成重大危害之前。”對于百度在AI安全領(lǐng)域的持續(xù)發(fā)力,馬杰重申了加大這一投入的必要性。事實上,其已不止關(guān)乎于AI時代眾多安全攸關(guān)的關(guān)鍵場景,也已成為當前世界亟需應(yīng)對的現(xiàn)時挑戰(zhàn)——例如,在備受爭議的AI換臉問題上,百度研發(fā)并開源的業(yè)內(nèi)首款A(yù)I換臉檢測工具,便可實現(xiàn)對深度偽造、合成技術(shù)的高效“打假”,為監(jiān)管部門阻斷電信網(wǎng)絡(luò)詐騙等違法行為提供助力。

當然,圍繞算力、算法、數(shù)據(jù)的安全研究與解決方案,只是在百度大腦AI安全體系框架下的其中一環(huán)。面向更為廣泛的AI安全生態(tài)挑戰(zhàn),基于全面開源的“七種武器”BASS下一代人工智能安全技術(shù)棧等AI安全核心技術(shù),百度正為解決AI生態(tài)中云、管、端及大數(shù)據(jù)和算法層面的一系列安全風險問題提供支持。

三大維度護航AI時代 百度馬杰百度世界大會詳解AI安全版圖

正如本次百度世界大會“萬物智能”的主題,作為百度大腦核心架構(gòu)之一,百度的AI安全能力將持續(xù)致力于為AI大生產(chǎn)平臺的升級和產(chǎn)業(yè)智能化變革保駕護航。并從Security、Safety及Privacy多個維度,打造更安全的AI,打造更安全的AI時代。

(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )