12月11日，“2024生成式人工智能安全大賽頒獎(jiǎng)儀式暨大模型安全技術(shù)研討會(huì)”在北京隆重舉辦。大賽于2024年4月26日在中關(guān)村論壇上發(fā)布，并匯聚了國(guó)內(nèi)科研院所/企業(yè)團(tuán)隊(duì)在內(nèi)的200多支隊(duì)伍報(bào)名參加三個(gè)賽道初賽，有22支隊(duì)伍參加復(fù)賽。經(jīng)過(guò)組委會(huì)嚴(yán)格審定，最終決出每個(gè)賽道的優(yōu)勝團(tuán)隊(duì)和前三名。其中，騰易科技(原易車(chē)公司升級(jí))斬獲大賽“安全檢測(cè)”賽道亞軍的優(yōu)異成績(jī)，同時(shí)在非公企業(yè)和同行業(yè)雙雙取得第一。
近年來(lái)，人工智能的發(fā)展日新月異，生成式大模型正在成為驅(qū)動(dòng)新質(zhì)生產(chǎn)力發(fā)展的新動(dòng)能、人類(lèi)探索未知的新工具。在賦能新時(shí)代發(fā)展的同時(shí)，生成式人工智能也給全球帶來(lái)了前所未有的安全風(fēng)險(xiǎn)。為有效發(fā)現(xiàn)、分析、應(yīng)對(duì)生成式人工智能安全風(fēng)險(xiǎn)，在2024年中關(guān)村論壇數(shù)據(jù)安全治理與發(fā)展論壇上，以“共筑安全星河，護(hù)航AI發(fā)展”為主題的首屆生成式人工智能安全大賽正式舉辦。
大賽由北京市互聯(lián)網(wǎng)信息辦公室和中國(guó)科學(xué)院網(wǎng)絡(luò)安全和信息化領(lǐng)導(dǎo)小組辦公室共同指導(dǎo)，中國(guó)科學(xué)院信息工程研究所和信息內(nèi)容安全國(guó)家工程研究中心共同主辦。并設(shè)置安全攻擊、安全檢測(cè)、對(duì)齊防護(hù)三大賽道，旨在從攻、檢、防三個(gè)方面，聚集國(guó)內(nèi)優(yōu)勢(shì)力量，有效發(fā)現(xiàn)、分析、應(yīng)對(duì)大模型安全風(fēng)險(xiǎn)，不斷提升人工智能基礎(chǔ)底座的安全可控水平，更好地促進(jìn)北京市及全國(guó)的大模型產(chǎn)業(yè)安全發(fā)展。
其中安全檢測(cè)賽道面向生成式內(nèi)容安全風(fēng)險(xiǎn)檢測(cè)需求，設(shè)置生成式內(nèi)容安全風(fēng)險(xiǎn)檢測(cè)技術(shù)賽題。參賽單位根據(jù)提供的生成式內(nèi)容數(shù)據(jù)集，通過(guò)檢測(cè)引擎，識(shí)別其有害性。
在本賽道中，騰易科技的AI安全大模型能力得到有效考驗(yàn)和優(yōu)異展示。其能力主要聚焦及體現(xiàn)在5個(gè)方面：
1.有害性檢測(cè)：AI安全大模型能夠檢測(cè)生成內(nèi)容的安全性和合規(guī)性，識(shí)別出模型回答中的有害與無(wú)害內(nèi)容，確保內(nèi)容的真實(shí)性、無(wú)害性。
2.多類(lèi)別識(shí)別：模型能夠覆蓋多種有害類(lèi)型，包括仇恨辱罵、倫理道德、偏見(jiàn)歧視、身心健康、違法犯罪、謠言錯(cuò)誤、隱私財(cái)產(chǎn)等9類(lèi)有害內(nèi)容。
3.數(shù)據(jù)構(gòu)造能力：模型通過(guò)公開(kāi)數(shù)據(jù)收集、數(shù)據(jù)生成、標(biāo)注策略設(shè)計(jì)來(lái)保證標(biāo)注數(shù)據(jù)的質(zhì)量，并采用多折訓(xùn)練大模型作為“標(biāo)注人員”的方式來(lái)進(jìn)行海量標(biāo)注數(shù)據(jù)的擴(kuò)展。
4.模型評(píng)測(cè)與優(yōu)化：模型在基座模型選擇、微調(diào)、資源消耗分析等方面表現(xiàn)出色，通過(guò)兩階段訓(xùn)練實(shí)現(xiàn)模型效果的優(yōu)化。
5.高準(zhǔn)確率：在評(píng)測(cè)和實(shí)驗(yàn)對(duì)比中，經(jīng)過(guò)微調(diào)的Gemma-2b-it模型表現(xiàn)出較好的效果，尤其是在小數(shù)據(jù)集上訓(xùn)練時(shí)，能夠更關(guān)注深層語(yǔ)義特征。
騰易科技相關(guān)負(fù)責(zé)人表示，騰易科技專(zhuān)注于汽車(chē)產(chǎn)業(yè)的人工智能科技創(chuàng)新，并重視安全風(fēng)險(xiǎn)和合規(guī)問(wèn)題，始終將內(nèi)容安全、用戶安全放在首位。本次大賽檢驗(yàn)了公司的AI安全大模型能力，也充分體現(xiàn)了我司的技術(shù)實(shí)力。非常高興組委會(huì)對(duì)于我司的認(rèn)可，優(yōu)異成績(jī)的取得對(duì)于公司也具有重大的意義，期待騰易科技在后續(xù)的政企合作中繼續(xù)發(fā)揮積極作用。
據(jù)悉，騰易科技自主研發(fā)的三款人工智能產(chǎn)品“藍(lán)圖”“易筆生花”與“易靈析”已成功通過(guò)生成式人工智能服務(wù)備案。其大模型將AI技術(shù)與汽車(chē)流通領(lǐng)域緊密結(jié)合，不僅提升了行業(yè)的生產(chǎn)效率，還使得信息能夠更有效地觸達(dá)消費(fèi)者，從而助力商業(yè)化探索。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
