近日,由Zilliz 聯(lián)合亞馬遜云科技舉辦的【向量數(shù)據(jù)庫 X 云計算 驅(qū)動大模型落地電商行業(yè)】活動在上海圓滿落幕,獲得業(yè)內(nèi)專業(yè)人士的廣泛好評。
眾所周知,大模型技術(shù)的發(fā)展正加速對千行萬業(yè)的改革和重塑,向量數(shù)據(jù)庫作為大模型的海量記憶體、云計算作為大模型的大算力平臺,是大模型走向行業(yè)的基石。而電商行業(yè)因其高度的數(shù)字化程度,成為打磨大模型的絕佳“競技場”。為此,本次活動應(yīng)運而生。
多位來自向量數(shù)據(jù)庫公司 Zilliz 與亞馬遜云科技的專家、電商行業(yè)一線的技術(shù)大咖在現(xiàn)場貢獻(xiàn)了精彩發(fā)言,和現(xiàn)場觀眾共話大模型在電商行業(yè)中的應(yīng)用場景、方案解析、最佳實踐等核心話題。其中,Zilliz 資深解決方案架構(gòu)師沈亮、Zilliz Towhee 開源項目負(fù)責(zé)人陳將的演講令人印象深刻。
沈亮從向量數(shù)據(jù)庫的基礎(chǔ)知識講起,由淺入深地過渡到電商行業(yè)落地向量數(shù)據(jù)庫的場景。他提到,向量數(shù)據(jù)庫的典型的應(yīng)用場景包括:在長文本領(lǐng)域,可以進(jìn)行翻譯、問答、語義檢索、情感分析;在圖片領(lǐng)域可以進(jìn)行去重、目標(biāo)檢測、圖片檢索、多模態(tài)的圖文互搜;在視頻領(lǐng)域進(jìn)行推薦、合規(guī)檢測、分類等。當(dāng)然,也有很多新興的應(yīng)用場景,比如在自動駕駛領(lǐng)域可以通過向量檢索幫助系統(tǒng)找出實時判斷過程中沒有分析出來的物體。而電商行業(yè)盈利基本上靠“搜廣推”三板斧,向量數(shù)據(jù)庫技術(shù)結(jié)合深度學(xué)習(xí)能做更高質(zhì)量的“搜廣推”,這其中一個重要的技術(shù)方向是多模態(tài)搜索。沈亮提到,目前大模型在電商領(lǐng)域可以落地的場景包括推薦系統(tǒng)召回、智能客服問答、UGC分析等。
陳將則從技術(shù)層面講述了從零到一搭建電商行業(yè)知識庫應(yīng)用的過程。他表示,當(dāng)前大語言模型存在一定的局限性,例如缺乏領(lǐng)域特定信息、容易產(chǎn)生幻覺、無法獲取最新信息、預(yù)訓(xùn)練數(shù)據(jù)無法改變等,知識庫可以改善這一情況。這其中,不得不提到由 Zilliz 提出的新范式——CVP Stack。其中,C 是 ChatGPT,即利用大語言模型實現(xiàn)以 ChatGPT 為代表的智能問答;V 是 Vector database,即通過向量數(shù)據(jù)庫為 ChatGPT 提供大規(guī)模的、可靠的知識庫;P 是 Prompt as code,即使用提示匹配用戶問題與來自知識庫的參考內(nèi)容。CVP Stack 的應(yīng)用場景代表為面向開源用戶和開源社區(qū)運維人員的問答機器人 OSSChat(https://osschat.io/),而在電商領(lǐng)域,電商用戶可以借助問答機器人將商品介紹導(dǎo)入知識庫,搭建知識庫增強問答。
此外,在現(xiàn)場,來自潮流電商得物的 AI 技術(shù)專家孟令公則分享了得物基于 Milvus 的大模型實踐。據(jù)孟令公介紹,得物目前有上億級別的向量數(shù)據(jù)存儲在開源向量數(shù)據(jù)庫 Milvus 上,基于 Milvus 的得物大模型訓(xùn)練推理平臺可以支持多種類型的業(yè)務(wù)平穩(wěn)運行。而未來,隨著大模型應(yīng)用走向規(guī)模化和多樣化,得物也將進(jìn)行技術(shù)上的更深入探索。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )