昆侖萬維宣布開源“天工”Skywork-13B系列大模型

10月30日消息，10月30日，昆侖萬維宣布開源百億級大語言模型「天工」Skywork-13B系列，并罕見地配套開源了600GB、150B Tokens的超大高質(zhì)量開源中文數(shù)據(jù)集。

昆侖萬維「天工」Skywork-13B系列目前包括130億參數(shù)的兩大模型：Skywork-13B-Base模型、Skywork-13B-Math模型，它們在CEVAL, GSM8K等多個權(quán)威評測與基準測試上都展現(xiàn)了同等規(guī)模模型的最佳效果，其中文能力尤為出色，在中文科技、金融、政務(wù)等領(lǐng)域表現(xiàn)均高于其他開源模型。

除模型開源外，Skywork-13B系列大模型還將開源600GB、150B Tokens的高質(zhì)量中文語料數(shù)據(jù)集Skypile/Chinese-Web-Text-150B，這是目前最大的開源中文數(shù)據(jù)集之一。

同時，昆侖萬維「天工」Skywork-13B系列大模型即將全面開放商用——開發(fā)者無需申請，即可商用。

130億參數(shù)、兩大模型、最大中文數(shù)據(jù)集之一、全面開放商用。昆侖萬維「天工」Skywork-13B系列大模型堪稱業(yè)內(nèi)開源最徹底的百億高質(zhì)量商用模型。

Skywork-13B系列大模型的開源將為大模型的場景應(yīng)用和開源社區(qū)發(fā)展提供最佳技術(shù)支持，降低大模型商業(yè)門檻，推動人工智能技術(shù)落地千行百業(yè)，為人工智能生態(tài)建設(shè)添磚加瓦，攜手開源社區(qū)探索未知世界、創(chuàng)造美好未來。

兩大模型 領(lǐng)先行業(yè)

昆侖萬維「天工」Skywork-13B系列包括兩大模型及150B高質(zhì)量中文數(shù)據(jù)集。

除此之外，Skywork-13B系列還公開了模型中使用的評估方法、數(shù)據(jù)配比研究和訓練基礎(chǔ)設(shè)施調(diào)優(yōu)方案等。希望這些開源內(nèi)容能夠進一步啟發(fā)社區(qū)對于大型模型預(yù)訓練的認知，并推動人工智能通用智能（AGI）的實現(xiàn)。

五大特點 全面超越

昆侖萬維「天工」Skywork-13B系列大模型在CEVAL, GSM8K等多個權(quán)威評測與基準測試上都展現(xiàn)了同等規(guī)模模型的最佳效果，其中文能力尤為出色，在中文科技、金融、政務(wù)等領(lǐng)域表現(xiàn)均高于其他開源模型。

Skywork-13B系列模型的五大特點：

最強參數(shù)表現(xiàn)：全面超越同等規(guī)模大模型

本次開源的Skywork-13B系列模型在CEVAL, CMMLU, MMLU, GSM8K等幾大權(quán)威評估基準中全面超越LLaMA2-13B等開源大模型，在同等規(guī)模大模型間取得最佳效果。（截止至10月25日數(shù)據(jù)）

最多訓練數(shù)據(jù)：3.2T高質(zhì)量的多語言訓練數(shù)據(jù)

Skywork-13B系列大模型擁有130億參數(shù)、3.2萬億高質(zhì)量多語言訓練數(shù)據(jù)。模型的生成能力、創(chuàng)作能力和數(shù)學推理能力提升明顯。

最強中文語言建模能力：中文語言建模困惑度評測，超越所有中文開源模型

Skywork-13B系列大模型在中文語言建模方面表現(xiàn)出色，具有優(yōu)秀的中文文創(chuàng)能力。在中文文本創(chuàng)作領(lǐng)域的評測中，Skywork-13B系列大模型展現(xiàn)出了卓越的能力，尤其在科技、金融、政務(wù)、企業(yè)服務(wù)、文創(chuàng)、游戲等領(lǐng)域均表現(xiàn)高于業(yè)內(nèi)其他開源模型。

上圖為不同領(lǐng)域數(shù)據(jù)下評估模型的困惑度，越低代表模型在該領(lǐng)域建模能力越強。結(jié)果顯示天工13B在技術(shù)文章，電影，政務(wù)報告，游戲，金融，通用領(lǐng)域均表現(xiàn)出色

最大中文開源數(shù)據(jù)集之一：150B Tokens高質(zhì)量中文語料

Skywork-13B系列將配套開源600GB、150B Tokens的高質(zhì)量中文語料數(shù)據(jù)集Skypile/Chinese-Web-Text-150B，這是目前最大的開源中文數(shù)據(jù)集之一。開發(fā)者可以最大程度地借鑒技術(shù)報告中大模型預(yù)訓練的過程和經(jīng)驗，深度定制模型參數(shù)，有針對性的進行訓練與優(yōu)化。

最有誠意的開源商用：無需申請，即可實現(xiàn)商用

目前開源社區(qū)中的中文大模型多數(shù)并非是完全可商用，一般開源社區(qū)用戶通常需要進行復(fù)雜的商用授權(quán)申請流程，在某些情況，甚至有對公司規(guī)模、所在行業(yè)、用戶數(shù)等維度有明確規(guī)定不給予商業(yè)授權(quán)。

昆侖萬維對Skywork-13B系列開源的開放性和可商用性高度重視，將授權(quán)流程做到極簡，取消對行業(yè)、公司規(guī)模、用戶等方面的限制，目的是幫助更多對中文大模型感興趣的用戶和企業(yè)在行業(yè)中不斷探索和進步。

此次Skywork-13B系列大模型將全面開放商用許可，用戶在下載模型并同意并遵守《Skywork模型社區(qū)許可協(xié)議》后，無需再次申請授權(quán)即可將大模型進行商業(yè)用途。希望用戶能夠更便捷地探索Skywork-13B系列大模型技術(shù)能力，探索在不同場景下的商業(yè)化應(yīng)用。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。