11月24日消息，國際網(wǎng)絡(luò)與信息安全領(lǐng)域頂會ACM CCS 2022于近日在洛杉磯召開，阿里達(dá)摩院聯(lián)合武漢大學(xué)、伍斯特理工學(xué)院、印第安納大學(xué)的研究成果獲最佳論文提名獎，該論文揭示了深度文本排序模型潛在的安全隱患，并探討了檢索系統(tǒng)的安全防御優(yōu)化策略。
ACM CCS與IEEE S&P、USENIX Security、NDSS被業(yè)界稱為網(wǎng)絡(luò)安全領(lǐng)域“四大頂級會議”， 至今已有近30年的歷史，該會議引領(lǐng)了國際信息安全領(lǐng)域研究的潮流。近年來，針對神經(jīng)網(wǎng)絡(luò)模型的對抗攻擊成為業(yè)界研究的熱點，攻防研究成果也不斷涌現(xiàn)。
搜索引擎的魯棒性問題一直是業(yè)界研究的熱點，由于深度文本排序模型較易受到對抗攻擊的影響，即在圖像上的一些像素擾動或者文本中幾個字符的改變就可能會引發(fā)預(yù)測結(jié)果的極大變化，這種弱點可能被用來操縱排序結(jié)果，甚至引導(dǎo)觀點。攻防對抗的模擬是發(fā)現(xiàn)系統(tǒng)潛在風(fēng)險并增強(qiáng)魯棒性的主要途徑之一，然而業(yè)界在該領(lǐng)域的攻防研究主要集中在圖像排序、文本分類和機(jī)器翻譯等模型上，面向深度文本排序模型的探索較少。
基于不同神經(jīng)網(wǎng)絡(luò)之間對抗樣本的可遷移特性，達(dá)摩院在論文中提出通過采樣目標(biāo)排序模型的結(jié)果列表，無需白盒訪問權(quán)限，即可訓(xùn)練一個模仿排序模型來產(chǎn)生對抗攻擊文本，然后遷移到目標(biāo)排序模型上驗證攻擊效果。通過大量的自動檢測和人工評測實驗證明，該方法能夠以黑盒方式有效實施攻擊。該論文研究成果可用于檢測、評價排序模型的魯棒性，并且為檢索系統(tǒng)的防御優(yōu)化策略提供重要參考價值。
該論文作者、達(dá)摩院高級算法專家康楊楊表示：“神經(jīng)網(wǎng)絡(luò)模型魯棒性不足的問題由來已久，我們希望通過探索對抗攻擊方法來推動模型的改進(jìn)。未來，團(tuán)隊還將進(jìn)一步探索完善的防御方法?！?/p>
據(jù)介紹，ACM CCS 2022共收到971篇有效投稿論文，最終218篇被收錄，共有15篇論文獲得最佳論文提名獎。本次大會，阿里巴巴共有3篇論文被收錄，是論文收錄數(shù)量最多的中國科技公司之一。
- 蜜度索驥：以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 深度聚焦性能和游戲體驗，一加 Ace 5系列售價2299元起
- 深度聚焦性能和游戲體驗，一加 Ace 5系列售價2299元起
- 中國信通院副院長魏亮：構(gòu)建算力互聯(lián)網(wǎng)，實現(xiàn)異構(gòu)算力隨需獲取
- CCSA理事長聞庫：算力互聯(lián)網(wǎng)是解決資源供需矛盾的重要手段
- 2025年改變社區(qū)的6大智慧城市趨勢
- 社區(qū)力量與開源創(chuàng)新：共同塑造人工智能的安全與道德未來
- 未來已來：智能建筑技術(shù)的變革
- 人工智能和知識圖譜如何重新定義建筑行業(yè)？
- 智能建筑技術(shù)：ESG合規(guī)與可持續(xù)運營的關(guān)鍵
- 融資啟新，“獨角獸”企業(yè)象帝先終迎曙光
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
