淺談生成式人工智能服務(wù)者管理辦法：規(guī)范是為促發(fā)展

以ChatGPT為代表的生成式人工智能技術(shù)，在全球范圍掀起人工智能投資和創(chuàng)業(yè)熱潮，也引發(fā)越來越多的討論。微軟公司創(chuàng)始人比爾·蓋茨甚至表示，ChatGPT是自1980年圖形用戶界面以來，他所見過的最具革命性的技術(shù)進(jìn)步。

在國內(nèi)，包括百度、阿里巴巴、騰訊等公司都在積極布局生成式人工智能技術(shù)，其中百度文心一言同時具備文學(xué)創(chuàng)作、商業(yè)文案創(chuàng)作、數(shù)理推算、中文理解和多模態(tài)生成等功能。阿里云旗下大模型產(chǎn)品通義千問則剛剛面世，阿里CEO張勇透露，未來阿里所以產(chǎn)品都將接入通義千問大模型，進(jìn)行全面改造。

當(dāng)我們驚嘆于生成式AI功能愈發(fā)完善強大之際，圍繞其是否帶來潛在威脅和如何監(jiān)管的討論不絕于耳。4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《意見稿》），這也是國內(nèi)有關(guān)生成式人工智能的第一個管理條例。

網(wǎng)信辦迅速出臺《意見稿》，反映出對于生成式人工智能技術(shù)的高度重視。筆者研讀后發(fā)現(xiàn)，相較于鼓勵規(guī)范和發(fā)展新技術(shù)，這份《意見稿》著重于從安全風(fēng)險、知識產(chǎn)權(quán)隱患和保障數(shù)據(jù)真實準(zhǔn)確性等方面，對生成式AI產(chǎn)品以及提供方做出限制要求，來保障合規(guī)性。整體來看，對正在崛起的新技術(shù)而言，是較為嚴(yán)格的監(jiān)管意見了。

具體來看，《意見稿》第四條第4點提到，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實準(zhǔn)確，采取措施防止生成虛假信息。了解AI大模型的朋友們知道，語言模型的推理生成過程本身具有一定的概率性和創(chuàng)作性，無法完全保證生成結(jié)果的準(zhǔn)確性和穩(wěn)定性，即使通過RLHF（基于人類反饋的強化學(xué)習(xí)）以及搜索增強等方式可以盡可能提高輸出內(nèi)容準(zhǔn)確率，仍無法達(dá)到100%。就比如用戶去生成一幅畫或者創(chuàng)作一部小說，結(jié)果本身就是虛構(gòu)和再加工的，無法保證真實性。

再比如第五條提到，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任。

這一條其實是經(jīng)典的“銷售菜刀要為菜刀傷人負(fù)責(zé)”的議題。在筆者看來，由于生成內(nèi)容在不同的場景使用可能會產(chǎn)生不同的影響，提供方是無法確定使用者的具體用途，倘若不正當(dāng)用途（比如版權(quán)問題等）產(chǎn)生的影響，應(yīng)當(dāng)由使用方負(fù)責(zé)，而非提供方。

此外，《意見稿》第十五條指出， 對于運行中發(fā)現(xiàn)、用戶舉報的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過濾等措施外，應(yīng)在3個月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成。

如前文所述，語言模型原理上是根據(jù)歷史的語料及語料中的文字概率分布來生成內(nèi)容。通過規(guī)則干預(yù)能夠過濾掉已知的badcase，對未知badcase可以通過模型進(jìn)一步優(yōu)化能夠一定程度降低出現(xiàn)概率，但無法100%保證不出新的badcase。也就是說，這條要求從技術(shù)手段無法實現(xiàn)，是提供方想為而不可為的。

在筆者看來，應(yīng)該充分肯定《意見稿》的指導(dǎo)意義，讓法規(guī)成為保障科技創(chuàng)新發(fā)展的助推器，避免新技術(shù)的野蠻生長和濫用。從《意見稿》中我們看到，監(jiān)管部門高度強調(diào)對知識產(chǎn)權(quán)、個人數(shù)據(jù)和信息的保護(hù)，這是用戶和平臺方都喜聞樂見的。在國外就已經(jīng)出現(xiàn)，用戶可以繞過OpenAI設(shè)置的內(nèi)容安全策略，從而對ChatGPT上的用戶信息和聊天內(nèi)容進(jìn)行濫用的案例。

但與此同時，在生成式人工智能服務(wù)方興未艾的階段，倘若對平臺方和提供者們提供過高的合規(guī)義務(wù)，無形中大大增加了新技術(shù)發(fā)展的成本，也捆住了自己的手腳。當(dāng)前，國內(nèi)的AI算力與美國本來就有一定的差距，我們應(yīng)該對于人工智能新技術(shù)有更多的信心，面對新事物，更應(yīng)該用發(fā)展的眼光去看待問題，在發(fā)展過程中解決問題，而非在發(fā)展之初就為其帶上“緊箍咒”。

需要指出的是，此次出臺的是《生成式人工智能服務(wù)管理辦法（征求意見稿）》，而非定稿。監(jiān)管部門也是希望收到社會各界的多種反饋和建議，尤其是服務(wù)提供方應(yīng)該積極給予回應(yīng)，提供有實踐指導(dǎo)意義的建議，來輔助監(jiān)管部門和專家團隊更好的完善管理辦法，促進(jìn)國內(nèi)生成式人工智能服務(wù)的規(guī)范和發(fā)展。

人工智能的技術(shù)浪潮已經(jīng)不可阻擋，國內(nèi)多家技術(shù)公司正摩拳擦掌希望迅速追趕美國，創(chuàng)造更大的產(chǎn)業(yè)價值和社會價值。筆者也期待，監(jiān)管部門對于新事物、新技術(shù)可以給予一定的耐心和包容，推動其良性發(fā)展，給國內(nèi)人工智能產(chǎn)業(yè)規(guī)劃一條平穩(wěn)向上的軌跡。

生成海報

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。