魔搭社區(qū)推出AI Agent開發(fā)框架,人人都可基于開源LLM“攢”出智能體應用

9月5日消息,阿里云牽頭建設的AI模型社區(qū)魔搭(ModelScope)又上新了,推出適配開源大語言模型的AI Agent開發(fā)框架ModelScope-Agent。借助ModelScope-Agent,所有開發(fā)者都可基于開源 LLM 搭建屬于自己的智能體應用,最大限度釋放想象力和創(chuàng)造力。ModelScope-Agent的代碼現(xiàn)已開源。

AI Agent(AI智能體、AI代理)可謂當前大模型領域最熱門的研究方向,它是指基于LLM的、能夠使用工具自主完成特定任務的智能體。眾所周知,目前階段的LLM存在能力邊界,主要擅長處理文本任務。AI Agent將LLM與其他模型、軟件等外部工具協(xié)同,便能處理真實世界中的各種復雜任務,比如接入視頻生成模型,自主生產(chǎn)視頻;接入外部軟件,幫人類寫郵件、訂票、購物等等。

AI Agent類應用正在成為大模型創(chuàng)業(yè)的重要賽道,AI Agent 開發(fā)框架也應運而生。但業(yè)界現(xiàn)有的AI Agent 開發(fā)框架大多基于閉源 LLM 構建。為了充分釋放開源 LLM 的生產(chǎn)力,魔搭社區(qū)自研了適配開源 LLM 的AI Agent開發(fā)框架ModelScope-Agent。簡而言之,ModelScope-Agent是pilot(領航員)而非copilot(副駕駛員)。

此前,魔搭已用這套框架在社區(qū)做了“打樣”,搭建 ModeScopeGPT,它能通過自然語言與用戶交互、接受用戶指令,通過“中樞模型”通義千問調用社區(qū)的眾多AI模型API,自主完成人類布置的任務。ModeScopeGPT的調用量已超過 25 萬。

ModelScope-Agent系統(tǒng)架構圖.jpg

(ModelScope-Agent系統(tǒng)架構圖)

AI Agent的工作流程一般包括任務的理解、規(guī)劃和執(zhí)行,其中,LLM 負責任務規(guī)劃、工具調用以及回復生成,是整個流程的智能中樞,好比人類的大腦。ModelScope-Agent允許開發(fā)者自由選擇智能體的“大腦”,適配百川、通義千問等各類開源模型。主流LLM能夠做到“即插即用”,開發(fā)者如需專門訓練LLM 以增強其工具調用能力,可以參考ModelScope-Agent開源的訓練數(shù)據(jù)、訓練方法、優(yōu)化方案、評估方法。

ModelScope-Agent開發(fā)框架還包含記憶控制、工具使用等模塊,記憶控制模塊支持知識檢索以及 prompt (提示詞)管理,工具使用模塊支持工具庫、工具檢索、工具定制。為了增強開源大模型工具調用能力,魔搭社區(qū)還自研了一個包含60w樣本的MSAgent-Bench工具調用數(shù)據(jù)集。

大多數(shù) AI Agent 開發(fā)框架需要手動添加工具,而ModelScope-Agent 通過調用魔搭社區(qū)上開源的文本向量模型,打造API 工具檢索引擎,能讓AI Agent根據(jù)用戶指令自動檢索相關工具。如果開發(fā)者想要新增外部工具/API,只需要在ModelScope-Agent上注冊工具,即可直接調用。

開源正在成為很多頭部大模型玩家的選擇。未來,ModelScope-Agent 會適配更多新增的開源LLM,并將推出更多基于ModelScope-Agent開發(fā)的應用,如個人助理 Agent、Story Agent、Multi-Agent等。魔搭鼓勵開發(fā)者用ModelScope-Agent探索工業(yè)制造、游戲開發(fā)、智能互聯(lián)等行業(yè)的應用。

魔搭社區(qū)表示,作為國內(nèi)規(guī)模最大、用戶最活躍的AI模型開源社區(qū),魔搭將持續(xù)通過開源開放推進大模型技術和應用發(fā)展。此前,阿里云曾表示要把促進中國大模型生態(tài)的繁榮作為首要目標,并將魔搭建設成為中國最大的大模型自由市場。

ModelScopeAgent開源地址:https://github.com/modelscope/modelscope-agent/

(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。 )

贊助商
2023-09-05
魔搭社區(qū)推出AI Agent開發(fā)框架,人人都可基于開源LLM“攢”出智能體應用
9月5日消息,阿里云牽頭建設的AI模型社區(qū)魔搭(ModelScope)又上新了,推出適配開源大語言模型的AI Agent開發(fā)框架ModelScope-Agent。

長按掃碼 閱讀全文