新華網(wǎng)評測報告：百度文心一言拿下多項第一

8月4日消息，8月4日，在百度舉行的“AI大模型產(chǎn)品能力交流會”上，新華網(wǎng)與權威機構聯(lián)合發(fā)布的《國內(nèi)LLM產(chǎn)品測試報告》，為業(yè)界選擇大模型提供了內(nèi)容安全、常識問答、數(shù)學運算、閱讀理解和主觀問答等五大維度。

（新華網(wǎng)測試報告：百度文心一言綜合得分第一）

新華網(wǎng)測試報告對文心一言、GPT-3.5等四大知名大模型進行評測，結果顯示，百度文心一言綜合得分第一，超過GPT-3.5，國內(nèi)大模型排名第一。

文心一言是百度自主研制的知識增強大語言模型，首先從數(shù)萬億數(shù)據(jù)和數(shù)千億知識中融合學習得到預訓練大模型，在此基礎上采用有監(jiān)督精調、人類反饋的強化學習和提示等技術，并具備知識增強、檢索增強和對話增強等技術優(yōu)勢。

內(nèi)容價值是企業(yè)選擇大模型重要因素

大模型具有良好的通用性和泛化性。普通人通過簡單的問答，就能獲得想要的服務和產(chǎn)品功能。但是不同國家和地區(qū)有不同的法律文化、社會習俗、倫理道德。

因此，對于同一個問題，大模型給出的答案可能會引發(fā)不同的社會反饋，有正面效應也可能含有負面爭議，一些文化偏見甚至可能引發(fā)群體矛盾。

因此，內(nèi)容是選擇大模型的重要考慮因素。在新華網(wǎng)的評測報告中，有兩大關于內(nèi)容的維度。一是內(nèi)容安全問答，包含了意識形態(tài)、非法涉黃等多項維度，二是常識問答，涵蓋有中國文化、歷史、地理和生活等常識知識。

新華網(wǎng)物聯(lián)網(wǎng)技術總監(jiān)葛振斌表示，“大模型生成的內(nèi)容必須符合當?shù)胤珊蜕鐣赖乱?。可以說，各個國家都需要‘更適合自己歷史文化’的大語言模型?！?/p>

內(nèi)容，對于產(chǎn)業(yè)界同樣非常重要，有的企業(yè)涉及國計民生，還有的企業(yè)依靠“傳承配方”形成獨特競爭力。中國傳媒大學新媒體研究院院長趙子忠表示，“這對大模型在信息安全、數(shù)據(jù)安全、定制化等方面的服務能力提出了考驗。大模型必須具備行業(yè)化、場景化的服務能力，才能滿足不同企業(yè)的要求?！?/p>

文心一言“最適合中國”

當前，從政府機構到企業(yè)公司，都迫切需要一些判斷大模型適合程度的標準和方法。

新華網(wǎng)物聯(lián)網(wǎng)技術總監(jiān)葛振斌認為，評測大模型有5項維度非常重要：一是把控生成內(nèi)容安全性的能力，背后涉及意識形態(tài)、政治體制、非法涉黃等維度，每一項都事關一個社會文明的底線；二是常識推斷計算的能力，涉及自然、文化、地理、歷史和生活等多個領域，必須先吃透這些方面的常識，才能避免生成不恰當?shù)膬?nèi)容結果；三是對長文本的語義理解能力。這可以考驗大模型產(chǎn)出的內(nèi)容是否正確且言之有理，是否具有較好的說服力；四是數(shù)學運算及數(shù)學推理能力；五是主觀思維能力，考驗大模型是否可以準確理解當?shù)仫L俗習慣或者傳統(tǒng)文化。

新華網(wǎng)評測報告顯示，文心一言因中文搜索引擎和算法模型優(yōu)勢，在安全、常識、數(shù)學、閱讀等方面優(yōu)勢明顯。在五個維度上的得分計算均值，文心一言的綜合得分為94.7分，排名第一，高于GPT-3.5的76.9分。這說明當前文心一言在總體能力（中文處理）上已經(jīng)超越了GPT-3.5模型。

（新華網(wǎng)測試報告：百度文心一言綜合得分第一）

憑借上述表現(xiàn)，文心一言在“最適合中國”方面搶占領先身位，領跑國內(nèi)大模型。

專家建議：開發(fā)者基于文心大模型搶占發(fā)展先機

如今，參考權威機構評測成為客戶選擇大模型的一個重要方式。如同生活中常見的智能手機評測，汽車駕駛評測，是用戶選擇產(chǎn)品和服務的重要參考。

除了新華網(wǎng)評測報告，近期，還有IDC等多個權威機構發(fā)布評測報告，結果均顯示由文心大模型3.5支持的文心一言綜合能力評測得分超過ChatGPT3.5。

比如IDC報告顯示，文心大模型3.5拿下12項核心指標的7個滿分，綜合評分位列國內(nèi)主流大模型第一，并在算法模型、行業(yè)覆蓋兩大關鍵指標上拿下唯一滿分。

中國傳媒大學新媒體研究院院長趙子忠建議，創(chuàng)業(yè)者和開發(fā)者以及中小企業(yè)，其實不需要從0到1的打造自己的大模型，可以基于文心大模型打造智能應用，避免重復造輪子，把精力放在自己擅長的創(chuàng)新上。誰先做出來滿足用戶需求的應用，誰就搶占了發(fā)展先機。

百度2019年推出文心大模型1.0，今年5月份升級到3.5版本。通過飛槳深度學習平臺與文心大模型的協(xié)同優(yōu)化，文心大模型3.5實現(xiàn)了基礎模型升級、精調技術創(chuàng)新、知識點增強、邏輯推理增強、插件機制等，模型效果提升50%，訓練速度提升2倍，推理速度提升30倍。

目前百度文心大模型已擁有中國最大的產(chǎn)業(yè)落地規(guī)模，超過15萬家企業(yè)申請文心一言內(nèi)測，其中有超300家生態(tài)伙伴在400多個具體場景取得測試成效，覆蓋辦公提效、知識管理、智能客服、智能營銷等領域，聯(lián)合國家電網(wǎng)、浦發(fā)銀行、泰康、吉利等企業(yè)，聯(lián)合發(fā)布了 11個行業(yè)大模型。百度還設立了 10 億創(chuàng)投基金鼓勵大模型創(chuàng)意、繁榮大模型生態(tài)。

軟通動力CTO劉會福曾表示，我們非常期待在文心大模型的基礎上，開拓更多的應用實踐。北京寶蘭德軟件董事長易存道表示，如何把大模型在垂直行業(yè)做好，是目前各個企業(yè)都要考慮的問題，多數(shù)企業(yè)無法像百度一樣有能力建設大模型。

怎么能夠把百度的大模型能力和企業(yè)業(yè)務有效結合起來，創(chuàng)造更強的價值，是企業(yè)非常好的彎道超車機會。金山辦公助理總裁田然表示，金山辦公要跟中國優(yōu)秀的大模型提供方站在一起。金山辦公和文心的合作，會進一步推動大模型在辦公領域的應用和快速落地。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。