人工智能安全守護(hù)計(jì)劃啟動(dòng) 將建立AI系統(tǒng)情報(bào)共享機(jī)制

7月26日消息，近日，微軟大規(guī)模藍(lán)屏事件引發(fā)各界反思。一次互聯(lián)網(wǎng)時(shí)代的軟件BUG能夠引起全球大范圍“癱瘓”，如果同樣的劇情在AI時(shí)代上演，損失可能更大。

在中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（以下簡稱 “AIIA”）安全治理委員會(huì)成果發(fā)布會(huì)上，AIIA秘書長、中國信通院院長余曉暉表示，當(dāng)前人工智能安全治理需要匯聚行業(yè)各方智慧和力量，共同完善人工智能安全風(fēng)險(xiǎn)識(shí)別方法論，建立更為敏捷、精確的安全風(fēng)險(xiǎn)識(shí)別機(jī)制，盡早、盡快發(fā)現(xiàn)風(fēng)險(xiǎn)，加強(qiáng)人工智能安全評(píng)測技術(shù)工具的研究，通過技術(shù)來治理技術(shù)。

據(jù)介紹，為應(yīng)對(duì)當(dāng)前人工智能所帶來的安全挑戰(zhàn)，AIIA安全治理委員會(huì)重點(diǎn)圍繞人工智能的治理框架、風(fēng)險(xiǎn)管理、內(nèi)生安全、安全應(yīng)用開展了大量的理論和技術(shù)研究工作。

會(huì)上，人工智能安全守護(hù)計(jì)劃正式啟動(dòng)，該計(jì)劃將打造AI Guard品牌，共同建立AI系統(tǒng)情報(bào)共享機(jī)制、AIGC真實(shí)性和可信賴來源互認(rèn)機(jī)制，推動(dòng)設(shè)立人工智能相關(guān)保險(xiǎn)產(chǎn)品，提升國內(nèi)人工智能技術(shù)的服務(wù)提供方、使用方的安全防護(hù)能力。

中國信通院人工智能所黑一鳴博士發(fā)布了自研的大模型安全加固解決方案。該能力通過模型微調(diào)、外掛安全知識(shí)庫等模式對(duì)開源大模型自身進(jìn)行安全防護(hù)加固，在保持模型原有通用能力和推理效率的前提下，增強(qiáng)其抵御多種誘導(dǎo)攻擊的能力。

值得一提的是，人工智能天生具備高度交叉的技術(shù)和產(chǎn)業(yè)屬性，跨界融合正成為人工智能發(fā)展的主流形態(tài)。

中國法學(xué)會(huì)法治研究所研究員、中國法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)副秘書長劉金瑞表示，“對(duì)于法學(xué)專家來講，首先要了解技術(shù)特征。如果不了解技術(shù)特征，你寫的規(guī)范和規(guī)制的思路是不適用這個(gè)技術(shù)的，換句話說是無效的，可能邏輯推演是嚴(yán)謹(jǐn)?shù)?，但現(xiàn)實(shí)中是沒法用的。所以對(duì)于法學(xué)專業(yè)來講，你要根據(jù)這種特征和特性來設(shè)計(jì)一套配置方案出來。這是最大的挑戰(zhàn)?！?/p>

據(jù)北京市金杜律師事務(wù)所合伙人寧宣鳳律師透露，隨著人工智能發(fā)展，國家層面是通過小切口這種方式進(jìn)行立法，包括深度合成、算法、AIGC等領(lǐng)域開展治理，也出臺(tái)像科技倫理審查辦法等?！叭斯ぶ悄芊ㄎ覀兯彩窃谥贫ㄟ^程中”。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。