風(fēng)起于青萍之末,浪成于微瀾之間!2023年初ChatGPT的推出,讓AI技術(shù)掀起了一波前所未有的發(fā)展與應(yīng)用熱潮,同時(shí)也不可避免地帶來的許多新的安全風(fēng)險(xiǎn),這些安全風(fēng)險(xiǎn)涵蓋了從網(wǎng)絡(luò)威脅、數(shù)據(jù)安全、隱私保護(hù)、倫理關(guān)切和監(jiān)管影響等各個(gè)方面。
2023年11月2日,由中國內(nèi)部審計(jì)協(xié)會、ISACA中國、谷安天下公司聯(lián)合舉辦的第三屆數(shù)字風(fēng)險(xiǎn)大會于在北京隆重開幕。本次大會主題聚焦于“AI時(shí)代的數(shù)字風(fēng)險(xiǎn)挑戰(zhàn)與應(yīng)對”,邀請了眾多網(wǎng)絡(luò)安全與數(shù)字風(fēng)險(xiǎn)領(lǐng)域的研究學(xué)者、產(chǎn)業(yè)專家、用戶代表聚集一堂,從安全科技、風(fēng)險(xiǎn)控制和IT審計(jì)等多維度視角,全面探討了AI技術(shù)應(yīng)用的發(fā)展機(jī)遇和新型數(shù)字風(fēng)險(xiǎn)管理。
中國內(nèi)部審計(jì)協(xié)會副會長兼秘書長沈立強(qiáng)
在本次大會的主論壇上,中國內(nèi)部審計(jì)協(xié)會副會長兼秘書長沈立強(qiáng)代表大會主辦方致辭,他表示:AI技術(shù)的突破性進(jìn)展成為引領(lǐng)數(shù)字時(shí)代發(fā)展的新引擎。內(nèi)部審計(jì)作為組織內(nèi)部經(jīng)濟(jì)決策科學(xué)化、管理規(guī)范化,風(fēng)險(xiǎn)防控常態(tài)化的一項(xiàng)重要制度設(shè)計(jì),承擔(dān)著為各個(gè)組織實(shí)現(xiàn)高質(zhì)量發(fā)展保駕護(hù)航的重要使命。為進(jìn)一步推動內(nèi)部審計(jì)的數(shù)字化轉(zhuǎn)型,企業(yè)組織應(yīng)該做好以下方面:一是要增強(qiáng)使命感,充分認(rèn)識到數(shù)字化轉(zhuǎn)型是實(shí)現(xiàn)高質(zhì)量發(fā)展的必然要求;二是要堅(jiān)持正確方法論,注重?cái)?shù)字化轉(zhuǎn)型的系統(tǒng)性、整體性、協(xié)同性和時(shí)效性;三是要勇于自我革命,著力加強(qiáng)內(nèi)部審計(jì)數(shù)字化轉(zhuǎn)型的能力建設(shè)。
ISACA全球首席戰(zhàn)略官Chris Dimitriadis
ISACA全球首席戰(zhàn)略官Chris Dimitriadis以遠(yuǎn)程方式為大會發(fā)表了主題為《數(shù)字信任護(hù)航AI安全》的視頻演講。他指出:AI正在改變各個(gè)行業(yè)的發(fā)展模式并支持業(yè)務(wù)創(chuàng)新,為新產(chǎn)品和新的服務(wù)模式的推出鋪平道路。AI技術(shù)應(yīng)用雖然存在風(fēng)險(xiǎn),但也可以使數(shù)字信任行業(yè)收益。在IT審計(jì)工作中應(yīng)用AI,能夠?qū)崟r(shí)審計(jì)完整的數(shù)據(jù)集,取代傳統(tǒng)的抽樣或定時(shí)審計(jì)。數(shù)字信任可以支持網(wǎng)絡(luò)安全識別、保護(hù)、檢測、響應(yīng)和恢復(fù),而AI監(jiān)控和增強(qiáng)技術(shù)運(yùn)營作為一個(gè)整體,其實(shí)現(xiàn)方法將會更智能、更快捷、更全面。
中國內(nèi)部審計(jì)協(xié)會副會長、北京國家會計(jì)學(xué)院教授 秦榮生
中國內(nèi)部審計(jì)協(xié)會副會長、北京國家會計(jì)學(xué)院教授秦榮生發(fā)表了主題為《審計(jì)智能與智能審計(jì)》的演講,他指出:生成式AI改變了數(shù)據(jù)生成方式和數(shù)據(jù)生成規(guī)律,并顛覆數(shù)據(jù)庫的結(jié)構(gòu)以及數(shù)據(jù)分析方式。生成式AI產(chǎn)業(yè)應(yīng)該在繼續(xù)加強(qiáng)技術(shù)創(chuàng)新和應(yīng)用推廣的同時(shí),也要注重加強(qiáng)對生成式 AI 生成數(shù)據(jù)的審計(jì),保障生成式AI生成數(shù)據(jù)的真實(shí)和可信,研究審計(jì)生成式AI生成數(shù)據(jù)的實(shí)現(xiàn)路徑。隨著智能審計(jì)體系的構(gòu)建,人機(jī)共生將成為未來數(shù)智化審計(jì)工作的一部分。
中國建設(shè)銀行首席信息官金磐石
中國建設(shè)銀行首席信息官金磐石發(fā)表了主題為《AI 技術(shù)在銀行業(yè)數(shù)字化轉(zhuǎn)型中的應(yīng)用與挑戰(zhàn)》的主旨演講,并圍繞AI技術(shù)賦能建行數(shù)字化轉(zhuǎn)型和建行應(yīng)用AI技術(shù)的挑戰(zhàn)及應(yīng)對措施兩大方面展開詳細(xì)說明。據(jù)金磐石介紹:基于企業(yè)級人工智能平臺,中國建設(shè)銀行已發(fā)布400多個(gè)模型服務(wù),支撐800多個(gè)業(yè)務(wù)場景。目前,中國建設(shè)銀行對AI技術(shù)應(yīng)用需求旺盛,實(shí)現(xiàn)了業(yè)技融合多維分析,能夠通過差異化推進(jìn)場景建設(shè)以及產(chǎn)品化建設(shè)敏捷賦能。
北京大學(xué)計(jì)算機(jī)學(xué)院教授博士生導(dǎo)師陳鐘
北京大學(xué)計(jì)算機(jī)學(xué)院教授博士生導(dǎo)師陳鐘發(fā)表了《人工智能安全挑戰(zhàn)與治理》的主題演講。他表示:隨著互聯(lián)網(wǎng)技術(shù)演進(jìn)到賽博空間,涌現(xiàn)出更多的技術(shù)創(chuàng)新,比如人臉識別、生成式預(yù)訓(xùn)練大模型GPT、AI作畫、AI創(chuàng)作等。我國應(yīng)高度重視人工智能產(chǎn)業(yè)的發(fā)展與治理,只有數(shù)字信任才能加快新興技術(shù)的創(chuàng)新應(yīng)用、彌合國際/區(qū)域數(shù)字鴻溝。當(dāng)前亟需從可信數(shù)字身份出發(fā),借助密碼技術(shù)、區(qū)塊鏈、大數(shù)據(jù)、人工智能等技術(shù),打造面向數(shù)字經(jīng)濟(jì)時(shí)代的新型數(shù)字信任體系,為政府和企業(yè)的數(shù)字化轉(zhuǎn)型奠定數(shù)字安全基礎(chǔ)設(shè)施,賦能數(shù)字經(jīng)濟(jì)發(fā)展和智慧城市建設(shè)。
中國移動通信集團(tuán)內(nèi)部審計(jì)部武漢分部總經(jīng)理張國宏
中國移動通信集團(tuán)內(nèi)部審計(jì)部武漢分部總經(jīng)理張國宏在《運(yùn)用AI技術(shù)開展數(shù)字化審計(jì)的探索與實(shí)踐》演講中表示:大道至簡,審計(jì)思維也需要化繁為簡。中國移動集團(tuán)內(nèi)部審計(jì)部充分利用公司在人工智能、云計(jì)算、大數(shù)據(jù)等方面的先進(jìn)技術(shù)儲備設(shè)計(jì)了覆蓋底座層、平臺層、工具層、產(chǎn)品層四個(gè)層次的“Al+審計(jì)”整體技術(shù)架構(gòu),實(shí)現(xiàn)“通用平臺+場景應(yīng)用”模式在審計(jì)領(lǐng)域的落地,為AI審計(jì)能力的快速構(gòu)建、高效運(yùn)行、深入應(yīng)用提供堅(jiān)實(shí)保障。
谷安天下董事長陳偉
谷安天下董事長陳偉發(fā)表了題為《新時(shí)期數(shù)智風(fēng)險(xiǎn)管控的思路與方法》的主題演講,并就新時(shí)期數(shù)智化風(fēng)險(xiǎn)的特點(diǎn)、AI安全與倫理的重要性、AI風(fēng)險(xiǎn)管理框架分析對比和適用AI風(fēng)險(xiǎn)管控思路方法展開了詳細(xì)闡釋。陳偉指出,各類機(jī)構(gòu)在面對新型AI應(yīng)用帶來的風(fēng)險(xiǎn)時(shí),可根據(jù)國際上AI安全與倫理通用規(guī)則及國內(nèi)主管部門對科技倫理和AI安全的基本要求,開展針對AI的安全風(fēng)險(xiǎn)評估,并在此基礎(chǔ)上建立適宜的AI安全風(fēng)險(xiǎn)控制框架,逐步推進(jìn)AI安全控制措施的落地實(shí)施。
火山引擎大模型安全平臺產(chǎn)品負(fù)責(zé)人郭建新
火山引擎大模型安全平臺產(chǎn)品負(fù)責(zé)人郭建新發(fā)表了題為《基于云原生的大模型安全分析》的主題演講,對大模型的業(yè)務(wù)分析、安全需求、安全架構(gòu)、業(yè)務(wù)安全以及基于云原生的安全防護(hù)等內(nèi)容進(jìn)行了詳細(xì)介紹。郭建新表示:大模型技術(shù)在具體應(yīng)用時(shí)面臨模型輸出異常、對話機(jī)制異常、數(shù)據(jù)安全、大模型系統(tǒng)漏洞檢測等問題。為了增強(qiáng)大模型的安全性,組織需要從防御者權(quán)限角度出發(fā),開展數(shù)據(jù)質(zhì)量審查、基于端到端的模型增強(qiáng)、基于流程的模型增強(qiáng)。
在本次大會上,還發(fā)布了網(wǎng)絡(luò)安全和數(shù)字風(fēng)險(xiǎn)領(lǐng)域的多項(xiàng)研究成果,分別是由中國內(nèi)部審計(jì)協(xié)會、谷安天下聯(lián)合編寫的《數(shù)智化審計(jì)調(diào)研報(bào)告》,由ISACA編寫發(fā)布的《生成式AI應(yīng)用現(xiàn)狀及政策建議報(bào)告》和《2023年網(wǎng)絡(luò)安全現(xiàn)狀 ——勞動力、資源和網(wǎng)絡(luò)運(yùn)營的全球發(fā)展新態(tài)勢報(bào)告》,以及安全牛調(diào)研編寫的《AI時(shí)代的安全風(fēng)險(xiǎn)與能力創(chuàng)新》研究報(bào)告。這些報(bào)告涵蓋了企業(yè)組織的IT審計(jì)、網(wǎng)絡(luò)安全、人才培養(yǎng)和AI應(yīng)用等熱點(diǎn)領(lǐng)域,對相關(guān)行業(yè)和領(lǐng)域的發(fā)展具有重要的指導(dǎo)和參考價(jià)值。
為了從應(yīng)用實(shí)踐角度關(guān)注AI技術(shù)的應(yīng)用風(fēng)險(xiǎn)和價(jià)值,本次大會特別設(shè)置了“數(shù)智化風(fēng)險(xiǎn)控制與IT審計(jì)”和“AI引領(lǐng)數(shù)字風(fēng)險(xiǎn)防護(hù)創(chuàng)新”兩場主題分論壇,一眾行業(yè)大咖針對各自主題發(fā)表了一系列精彩演講,以自身見解和深度經(jīng)驗(yàn)分享引發(fā)了現(xiàn)場觀眾的熱烈討論。
第三屆數(shù)字風(fēng)險(xiǎn)大會的舉辦,為行業(yè)搭建了一個(gè)思想碰撞和經(jīng)驗(yàn)分享的多層次平臺,提出了在AI時(shí)代數(shù)字進(jìn)行風(fēng)險(xiǎn)管理的重要性和迫切性,引領(lǐng)行業(yè)走向更加安全和可持續(xù)的未來。據(jù)介紹,數(shù)字風(fēng)險(xiǎn)大會目前已經(jīng)成功舉辦了三屆,該會議旨在讓數(shù)字風(fēng)險(xiǎn)和網(wǎng)絡(luò)安全領(lǐng)域的思想領(lǐng)袖、行業(yè)主管、業(yè)內(nèi)學(xué)者、企業(yè)高層、技術(shù)專家聚集在一起,共同面對和探討當(dāng)下業(yè)界緊迫的數(shù)字風(fēng)險(xiǎn)問題,同時(shí)推動行業(yè)各方緊密合作,共同開發(fā)全面的策略和前沿的解決方案,以有效地管理各種數(shù)字風(fēng)險(xiǎn)。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
