蟻天鑒2.0發(fā)布 新增AI鑒真功能

7月5日消息，螞蟻集團(tuán)聯(lián)合清華大學(xué)發(fā)布大模型安全一體化解決方案“蟻天鑒”2.0版。

據(jù)了解，蟻天鑒去年7月首次對外發(fā)布，歷時1年升級到2.0版。2024年，蟻天鑒商業(yè)化邁出重要一步，通過螞蟻數(shù)科開始服務(wù)廣泛的外部客戶。

作為螞蟻集團(tuán)科技商業(yè)化的重要板塊，螞蟻數(shù)科自今年3月份獨(dú)立化運(yùn)營以來，悄然推進(jìn)AItoB戰(zhàn)略，SOFAStack、蟻盾等多個代表性產(chǎn)品均發(fā)布了大模型相關(guān)服務(wù)。

從WAIC現(xiàn)場了解，蟻天鑒2.0形成了包括大模型基礎(chǔ)設(shè)施測評、大模型X光測評、應(yīng)用安全測評、AIGC濫用檢測、證件偽造檢測、圍欄防御等在內(nèi)的完整技術(shù)鏈條，面向行業(yè)提供全方位智能化的大模型安全測評和防御解決方案。

在測評端，蟻天鑒2.0研發(fā)了業(yè)內(nèi)首個“測評智能體”。該測評智能體提供全流程自動化的安全測評工具，支持各種形式模型和深度學(xué)習(xí)框架，可擴(kuò)展測評垂類大模型、多模態(tài)大模型及Agent智能體，并能根據(jù)被測大模型的安全水位動態(tài)調(diào)整攻擊策略和出具測試用例，保障測評效果和效率。

現(xiàn)場工作人員表示，目前，蟻天鑒2.0有超300萬高質(zhì)量測評題庫，支持最高50萬/日的飽和式攻擊和逐級誘導(dǎo)深度攻擊，并實(shí)現(xiàn)了1工作日內(nèi)完成測評，全流程自動化率＞99%。

此外，該智能體增加了兩項(xiàng)新功能。一是大模型X-ray，即大模型X光，可針對大模型的內(nèi)在神經(jīng)元進(jìn)行X光掃描來做探查和判斷，讓研究人員了解大模型內(nèi)部在發(fā)生什么、定位可能引發(fā)風(fēng)險的神經(jīng)元、并進(jìn)行編輯修正，從而在模型內(nèi)部治理幻覺，實(shí)現(xiàn)從源頭識別和抑制風(fēng)險。二是大模型基礎(chǔ)設(shè)施測評。此前蟻天鑒的測評能力主要集中于大模型生成的內(nèi)容安全、合規(guī)風(fēng)險等檢測。蟻天鑒2.0從攻擊者全鏈路視角出發(fā)，深入掃描模型算法組件及軟件系統(tǒng)，可及時準(zhǔn)確發(fā)現(xiàn)大模型供應(yīng)鏈及運(yùn)行環(huán)境安全問題，保障云到端的應(yīng)用安全可控。

同時，蟻天鑒2.0防御端新增“AI鑒真”功能。支持多模態(tài)內(nèi)容真實(shí)性及深度偽造檢測，可快速精準(zhǔn)鑒別圖像、視頻、音頻、文本內(nèi)容的真?zhèn)?，圖像識別準(zhǔn)確率99.9%達(dá)到行業(yè)最高優(yōu)秀級（信通院測評）。目前，蟻天鑒2.0依托生成模型自建百萬量級音視圖多模態(tài)合成數(shù)據(jù)集，覆蓋主流生成方案，有效應(yīng)對AI換臉、聲音模擬、證件偽造等各類深度偽造風(fēng)險場景。（周小白）

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。