字節(jié)團(tuán)隊(duì)提出猞猁多模態(tài)大語(yǔ)言模型

7月19日消息,字節(jié)團(tuán)隊(duì)最近提出了一種名為猞猁(Lynx)的多模態(tài)大語(yǔ)言模型(LLMs)。他們通過(guò)對(duì)二十多種多模態(tài) LLMs 變體進(jìn)行系統(tǒng)實(shí)驗(yàn)和評(píng)估,確定了以 prefix-finetuning 為主要結(jié)構(gòu)的 Lynx 模型,并且還提出了一個(gè)新的多模態(tài)評(píng)估基準(zhǔn) Open-VQA。

據(jù)站長(zhǎng)之家報(bào)道,實(shí)驗(yàn)結(jié)果顯示,Lynx 模型在多模態(tài)理解準(zhǔn)確性和多模態(tài)生成能力方面表現(xiàn)出色,超過(guò)了現(xiàn)有的開(kāi)源模型。該模型在 Open-VQA 和 OwlEval 人工測(cè)評(píng)中取得了最佳效果。

這項(xiàng)研究對(duì)于多模態(tài) LLMs 的訓(xùn)練策略提出了一些重要結(jié)論,例如訓(xùn)練數(shù)據(jù)的質(zhì)量對(duì)模型性能至關(guān)重要,任務(wù)和提示對(duì)零樣本能力具有影響??傊︶P蜑槎嗄B(tài) LLMs 的發(fā)展提供了重要的參考和基準(zhǔn),為實(shí)現(xiàn)更準(zhǔn)確和多樣化的多模態(tài)理解和生成奠定了基礎(chǔ)。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2023-07-19
字節(jié)團(tuán)隊(duì)提出猞猁多模態(tài)大語(yǔ)言模型
任務(wù)和提示對(duì)零樣本能力具有影響。

長(zhǎng)按掃碼 閱讀全文