警惕“大模型幻覺(jué)”，中國(guó)AI要大膽前行

警惕“大模型幻覺(jué)”，中國(guó)AI大膽前行

隨著人工智能（AI）技術(shù)的飛速發(fā)展，大模型已成為推動(dòng)中國(guó)科技進(jìn)步、經(jīng)濟(jì)增長(zhǎng)和國(guó)家強(qiáng)盛的關(guān)鍵力量。然而，大模型也帶來(lái)了一系列新的安全和監(jiān)管挑戰(zhàn)。全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎在兩會(huì)期間，聚焦關(guān)注大模型安全和幻覺(jué)、網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型問(wèn)題，提出了一系列具有前瞻性的建議。

首先，周鴻祎強(qiáng)調(diào)了大模型“幻覺(jué)”的適度包容問(wèn)題。他指出，大模型作為一種前沿技術(shù)，其“幻覺(jué)”現(xiàn)象是其重要特點(diǎn)之一，也是實(shí)現(xiàn)通用人工智能（AGI）的重要因素。在科研領(lǐng)域，大模型的“幻覺(jué)”能夠“想象”新藥分子結(jié)構(gòu)、蛋白質(zhì)的結(jié)構(gòu)等，為新研究指引方向。然而，在醫(yī)療、法律、金融等對(duì)準(zhǔn)確性要求高的領(lǐng)域，雖然大模型的“幻覺(jué)”可能出錯(cuò)，但可以利用技術(shù)手段進(jìn)行矯正。因此，對(duì)于大模型的“幻覺(jué)”，我們應(yīng)當(dāng)持有適度包容的態(tài)度，避免過(guò)度追求準(zhǔn)確而限制其創(chuàng)造力。

其次，周鴻祎提出了以模制模的解決大模型應(yīng)用安全問(wèn)題的方法。他指出，隨著大模型的廣泛應(yīng)用，安全問(wèn)題也隨之而來(lái)。大模型存在幻覺(jué)、內(nèi)容安全等諸多問(wèn)題無(wú)法通過(guò)傳統(tǒng)安全方案有效化解，一旦部署在政府、企業(yè)內(nèi)部的基座模型、知識(shí)庫(kù)或智能體中任一環(huán)節(jié)出現(xiàn)安全隱患，都極有可能誘發(fā)整個(gè)生產(chǎn)環(huán)境爆發(fā)系統(tǒng)性風(fēng)險(xiǎn)。對(duì)此，360運(yùn)用人工智能技術(shù)重塑安全格局，采用“以模制?！钡姆绞綉?yīng)對(duì)新難題，依托安全大模型技術(shù)搭建起覆蓋“基座模型—知識(shí)庫(kù)—智能體”的全鏈路安全體系，護(hù)航政府與企業(yè)“數(shù)轉(zhuǎn)智改”。這一方法無(wú)疑為解決大模型應(yīng)用安全問(wèn)題提供了新的思路。

再者，周鴻祎關(guān)注到了網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型的問(wèn)題。他指出，當(dāng)前網(wǎng)絡(luò)安全行業(yè)內(nèi)卷嚴(yán)重，傳統(tǒng)模式問(wèn)題重重，不僅難以實(shí)現(xiàn)安全能力的廣泛覆蓋，也無(wú)法幫助企業(yè)等客戶迅速構(gòu)建安全能力。為此，他建議推動(dòng)網(wǎng)絡(luò)安全服務(wù)化轉(zhuǎn)型，鼓勵(lì)從購(gòu)買硬件產(chǎn)品轉(zhuǎn)變?yōu)橘?gòu)買安全服務(wù)，并鼓勵(lì)購(gòu)買SaaS化的安全產(chǎn)品。這些建議將有助于網(wǎng)絡(luò)安全行業(yè)適應(yīng)新的市場(chǎng)環(huán)境，提升網(wǎng)絡(luò)安全防護(hù)水平，為國(guó)家數(shù)字化建設(shè)筑牢安全基礎(chǔ)。

綜上所述，周鴻祎的提案為我們提供了一個(gè)全面而中立的視角來(lái)看待大模型的安全和監(jiān)管問(wèn)題。在數(shù)字化、智能化的浪潮中，我們不能僅僅關(guān)注技術(shù)的準(zhǔn)確性，更要重視其創(chuàng)造力和想象力。對(duì)于大模型的“幻覺(jué)”，我們應(yīng)當(dāng)持有適度包容的態(tài)度，同時(shí)也要構(gòu)建完善的監(jiān)管體系，確保其在安全的前提下發(fā)揮最大潛力。對(duì)于網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型問(wèn)題，我們應(yīng)當(dāng)積極推動(dòng)服務(wù)化轉(zhuǎn)型，提升網(wǎng)絡(luò)安全防護(hù)水平，為國(guó)家數(shù)字化建設(shè)提供堅(jiān)實(shí)的保障。

面對(duì)未來(lái)，中國(guó)AI要大膽前行。讓我們警惕“大模型幻覺(jué)”，把握住時(shí)代發(fā)展的機(jī)遇，共同為國(guó)家的科技進(jìn)步、經(jīng)濟(jì)增長(zhǎng)和國(guó)家強(qiáng)盛貢獻(xiàn)力量。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。