7月5日，在2024世界人工智能大會“邁向AGI：大模型煥新與產業(yè)賦能論壇”上，螞蟻集團聯合清華大學發(fā)布大模型安全一體化解決方案“蟻天鑒”2.0版。蟻天鑒2.0新增AI鑒真功能，支持圖像、視頻等多模態(tài)內容真實性及深度偽造檢測；并在測評功能上持續(xù)升級，打造了大模型安全測評“智能體”，并新增大模型X光、大模型基礎設施測評兩大測評功能。至此，蟻天鑒2.0形成了包括大模型基礎設施測評、大模型X光測評、應用安全測評、AIGC濫用檢測、證件偽造檢測、圍欄防御等在內的完整技術鏈條，面向行業(yè)提供全方位智能化的大模型安全測評和防御解決方案。
（圖：螞蟻集團聯合清華大學發(fā)布“蟻天鑒2.0”）
螞蟻集團副總裁、大安全技術部總裁李俊奎現場發(fā)布了這一升級產品，并介紹道，大模型和Agent智能體正帶給我們前所未見的智能體驗，同時也帶來了模型內部幻覺、安全漏洞和深度生成內容濫用等新的挑戰(zhàn)。蟻天鑒旨在打造AI大模型的安全鎧甲，確保大模型技術在安全可靠的環(huán)境中發(fā)揮效能。
記者從現場了解到，蟻天鑒2.0有兩大特色，一是在測評端研發(fā)了業(yè)內首個“測評智能體”。該測評智能體提供全流程自動化的安全測評工具，支持各種形式模型和深度學習框架，可擴展測評垂類大模型、多模態(tài)大模型及Agent智能體，并能根據被測大模型的安全水位動態(tài)調整攻擊策略和出具測試用例，保障測評效果和效率。目前，蟻天鑒2.0有超300萬高質量測評題庫，支持最高50萬/日的飽和式攻擊和逐級誘導深度攻擊，并實現了1工作日內完成測評，全流程自動化率＞99%。
與此同時，該智能體也增加了兩項新功能。一是「大模型X-ray」。即大模型X光，可針對大模型的內在神經元進行X光掃描來做探查和判斷，讓研究人員了解大模型內部在發(fā)生什么、定位可能引發(fā)風險的神經元、并進行編輯修正，從而在模型內部治理幻覺，實現從源頭識別和抑制風險。二是「大模型基礎設施測評」。此前蟻天鑒的測評能力主要集中于大模型生成的內容安全、合規(guī)風險等檢測。蟻天鑒2.0從攻擊者全鏈路視角出發(fā)，深入掃描模型算法組件及軟件系統(tǒng)，可及時準確發(fā)現大模型供應鏈及運行環(huán)境安全問題，保障云到端的應用安全可控。
同時，蟻天鑒2.0防御端新增「AI鑒真」功能。支持多模態(tài)內容真實性及深度偽造檢測，可快速精準鑒別圖像、視頻、音頻、文本內容的真?zhèn)?，圖像識別準確率99.9%達到行業(yè)最高優(yōu)秀級（信通院測評）。目前，蟻天鑒2.0依托生成模型自建百萬量級音視圖多模態(tài)合成數據集，覆蓋主流生成方案，有效應對AI換臉、聲音模擬、證件偽造等各類深度偽造風險場景。
(圖：蟻天鑒2.0大模型安全一體化解決方案全景圖)
據了解，螞蟻集團是國內較早布局大模型安全的廠商。蟻天鑒去年7月首次對外發(fā)布，1.0版本即被評為2023年世界人工智能大會“鎮(zhèn)館之寶”。歷時1年升級到2.0版，蟻天鑒2.0構建了雙重防御護欄，內置防護關注訓練階段的數據清洗和風險抑制；外置護欄融合智能風控技術，精準攔截輸入和輸出的風險內容，保障其應用安全。
目前，蟻天鑒的檢測與防御產品已開放給20家外部機構和企業(yè)使用，為通用大模型及醫(yī)療、金融、政務等垂直領域行業(yè)大模型應用安全保駕護航。例如，上海市第一人民醫(yī)院引用了蟻天鑒，有效應對醫(yī)療領域大模型應用中的信息安全與隱私保護、雙向內容風險防控等挑戰(zhàn)；螞蟻AI金融助理“支小寶”結合蟻天鑒，通過大模型訓練與推理風險管控、大模型風險點全方位評測、大模型用戶交互風險管控等舉措保障大模型應用安全，確保數據的準確性和金融邏輯的嚴格性。2024年，蟻天鑒商業(yè)化邁出重要一步，通過螞蟻數科開始服務廣泛的外部客戶。
論壇現場還發(fā)布了由清華大學、中關村實驗室、中國信通院、螞蟻集團聯合編制的《大模型安全實踐白皮書（2024）》。這也是國內首份“大模型安全實踐”研究報告，為行業(yè)打造高價值參考體系。
（圖：大模型安全實踐白皮書現場發(fā)布）
白皮書基于當前大模型發(fā)展趨勢與挑戰(zhàn)，提出了大模型安全實踐總體框架。即確立了“以人為本，AI向善”為大模型安全建設的核心，確保技術進步服務于人類福祉；以“安全、可靠、可控”三個核心維度的大模型安全技術體系，涵蓋大模型安全測評與防御的綜合技術方案；以及“端、邊、云”為大模型安全技術的主要承載實體。作為企業(yè)撰寫方，螞蟻集團安全生態(tài)副總裁邵曉東進行了現場發(fā)布并表示，白皮書還闡述了大模型在金融、醫(yī)療、政務等領域安全應用的案例，以及“五維一體”協同共治的治理框架，希望行業(yè)共同推動大模型安全生態(tài)發(fā)展。
本場論壇匯聚了國內外研究機構和頂尖學者以及產業(yè)人士等，從前沿技術、產業(yè)應用等不同視角分享了大模型安全的研究，探討端云協同、端側應用等最新趨勢以及大模型安全最新體系與實踐。這些深入的討論，也將為大模型如何安全可靠地助力產業(yè)轉型升級、推進數字經濟發(fā)展提供更加明確的前進方向。（七喜）
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
