紅帽企業(yè)Linux AI發(fā)布 目前已提供開發(fā)者預(yù)覽版

5月9日消息,ChatGPT的推出極大地激發(fā)了社會對生成式AI的興趣,自那以來,相關(guān)創(chuàng)新的步伐不斷加速。企業(yè)已從對生成式AI服務(wù)的初步評估轉(zhuǎn)向開發(fā)并啟用AI的應(yīng)用程序。為了真正降低進入AI創(chuàng)新的門檻,企業(yè)需要擴大參與AI項目的人員范圍,同時控制相關(guān)成本。

日前,開源解決方案供應(yīng)商紅帽公司宣布推出紅帽企業(yè)Linux AI(RHEL AI)。這是一個基礎(chǔ)模型平臺,能夠使用戶更加便捷地開發(fā)、測試和部署生成式人工智能(GenAI)模型。

RHEL AI整合了IBM研究院的開源授權(quán)Granite大型語言模型(LLM)系列、基于大規(guī)模對話機器人對齊(LAB)方法的InstructLab模型對齊工具,以及通過InstructLab項目實施的社區(qū)驅(qū)動模型開發(fā)方法。

該解決方案被封裝成一個優(yōu)化的、可啟動的RHEL鏡像,用于在混合云環(huán)境中部署單個服務(wù)器,并已集成到OpenShift AI中。OpenShift AI是紅帽的混合機器學(xué)習(xí)運營(MLOps)平臺,能夠在分布式集群環(huán)境中大規(guī)模運行模型和InstructLab。

InstructLab是一個圍繞LAB方法和IBM開源Granite模型構(gòu)建的開源社區(qū)。InstructLab項目的目標(biāo)是使開發(fā)者通過簡化LLM的創(chuàng)建、構(gòu)建和貢獻過程,像參與任何其他開源項目一樣,將LLM開發(fā)的權(quán)力交到開發(fā)者手中。

具體來看,RHEL AI包括:

1.紅帽支持和保障的開源許可Granite語言和代碼模型;

2.提供支持并具有生命周期管理的InstructLab分發(fā)版本,這是一種可擴展且成本效益高的解決方案,能夠增強大型語言模型(LLM)的功能,并使知識與技能的貢獻得到更廣泛的用戶接納。

3.通過RHEL鏡像方式提供的優(yōu)化可啟動模型運行實例,包括Granite模型和InstructLab工具包,及優(yōu)化的Pytorch運行時庫和針對AMD Instinct? MI300X、Intel和NVIDIA GPU以及NeMo框架的加速器。

4.紅帽提供的完整企業(yè)支持和生命周期保證,從可信的企業(yè)產(chǎn)品分發(fā)開始,提供24小時全天候生產(chǎn)支持和擴展的生命周期支持。

紅帽高級副總裁兼首席產(chǎn)品官Ashesh Badani表示,對企業(yè)來說,生成式AI(GenAI)代表了一次革命性的飛躍,但這需要企業(yè)真正部署起來,并針對其具體業(yè)務(wù)需求使用AI模型。通過結(jié)合紅帽O(jiān)penShift AI的廣泛應(yīng)用,RHEL AI和InstructLab項目旨在降低混合云中生成式AI所面臨的多種挑戰(zhàn),從數(shù)據(jù)科學(xué)技能的限制到巨大的資源需求,同時促進企業(yè)的部署并推動上游社區(qū)的創(chuàng)新?!?/p>

據(jù)悉,紅帽O(jiān)penShift AI最新版本提供了:邊緣模型服務(wù)、增強型模型服務(wù)、采用Ray支持分布式工作負(fù)載、改進模型開發(fā)、模型監(jiān)控和可視化以及新的加速器配置文件。

目前,紅帽企業(yè)Linux AI已作為開發(fā)者預(yù)覽版提供。在IBM云上已建立的GPU基礎(chǔ)設(shè)施用于訓(xùn)練Granite模型并支持InstructLab,現(xiàn)IBM云將增加對RHEL AI和OpenShift AI的支持。此整合將使企業(yè)能夠更輕松地將生成式AI部署至其關(guān)鍵任務(wù)應(yīng)用程序中。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )

贊助商
2024-05-09
紅帽企業(yè)Linux AI發(fā)布 目前已提供開發(fā)者預(yù)覽版
5月9日消息,ChatGPT的推出極大地激發(fā)了社會對生成式AI的興趣,自那以來,相關(guān)創(chuàng)新的步伐不斷加速。企業(yè)已從對生成式AI服務(wù)的初步評估轉(zhuǎn)向

長按掃碼 閱讀全文