微軟與Meta拓展AI合作:Llama 2登陸Azure和 Windows

7月26日消息,日前在微軟 Inspire 大會(huì)上,Meta 和微軟宣布將在 Azure 和 Windows 上支持 Llama 2 大型語(yǔ)言模型(LLM)系列。

據(jù)微軟科技官方公眾號(hào)透露,Llama 2 旨在幫助開發(fā)者和組織構(gòu)建生成式人工智能工具和體驗(yàn)。Meta 和微軟共同致力于實(shí)現(xiàn)“讓人工智能惠及更多人”的愿景, 對(duì)于 Meta 對(duì) Llama 2 的開源路徑微軟尤為興奮。在 Meta 首次向商業(yè)客戶發(fā)布新版 Llama 2 時(shí),微軟很高興能成為 Meta 的首選合作伙伴。

現(xiàn)在,Azure 客戶可以在 Azure 上更輕松、更安全地微調(diào)和部署7B、13B和70B參數(shù)的 Llama 2 模型。此外,Llama 還將進(jìn)行優(yōu)化以便在 Windows 上本地運(yùn)行。

Windows 開發(fā)人員將能夠通過(guò) ONNX Runtime 瞄準(zhǔn) DirectML 執(zhí)行提供商來(lái)使用 Llama,從而實(shí)現(xiàn)無(wú)縫工作流,為其應(yīng)用程序帶來(lái)生成式人工智能體驗(yàn)。

Meta 和微軟是人工智能領(lǐng)域的長(zhǎng)期合作伙伴,雙方曾合作將 ONNX Runtime 與 PyTorch 集成,在 Azure 上為 PyTorch 創(chuàng)造良好的開發(fā)者體驗(yàn),Meta 還選擇了 Azure 作為戰(zhàn)略云提供商。

本次合作,是基于雙方加速人工智能時(shí)代創(chuàng)新的合作關(guān)系的演進(jìn),將進(jìn)一步鞏固微軟作為開放模型生態(tài)系統(tǒng)與全球人工智能超級(jí)計(jì)算平臺(tái)的地位。

Azure 專為人工智能打造的超級(jí)計(jì)算平臺(tái),從設(shè)施、硬件和軟件方面進(jìn)行了獨(dú)特的設(shè)計(jì),以支持世界領(lǐng)先的人工智能組織構(gòu)建、訓(xùn)練和部署一些要求苛刻的人工智能工作負(fù)載。

Llama 2 模型與 Azure AI 的結(jié)合,使開發(fā)人員能夠利用 Azure AI 的強(qiáng)大工具進(jìn)行模型訓(xùn)練、微調(diào)、推理,特別是 Azure 確保 AI 安全的功能。

在 Windows 中加入 Llama 2 模型有助于推動(dòng) Windows 成為開發(fā)人員根據(jù)客戶需求構(gòu)建人工智能體驗(yàn)的優(yōu)選場(chǎng)所,并釋放開發(fā)者使用 Windows Subsystem for Linux (WSL)、Windows 終端、Microsoft Visual Studio 和 VS Code 等世界級(jí)工具進(jìn)行構(gòu)建的能力。

Llama 2 是微軟不斷增長(zhǎng)的 Azure 人工智能模型目錄的最新成員。該模型目錄目前處于公開預(yù)覽階段,是基礎(chǔ)模型的中心,使開發(fā)人員和機(jī)器學(xué)習(xí)(ML)專業(yè)人員能夠輕松地發(fā)現(xiàn)、評(píng)估、定制和大規(guī)模部署預(yù)構(gòu)建的大型人工智能模型。

該目錄消除了用戶在運(yùn)行 Llama 2 時(shí)管理所有基礎(chǔ)設(shè)施依賴的需要,為模型微調(diào)和評(píng)估提供交鑰匙支持,包括強(qiáng)大的優(yōu)化技術(shù),如 DeepSpeed 和 ONNX Runtime,可顯著提高模型微調(diào)的速度。

Windows 開發(fā)人員將能夠通過(guò) GitHub Repo 輕松使用 Llama 2 構(gòu)建新的體驗(yàn)。借助 Windows Subsystem for Linux 和高性能 GPU,開發(fā)人員可以在 Windows PC 上對(duì) LLM 進(jìn)行微調(diào),以滿足他們的特定需求。

負(fù)責(zé)任的人工智能是微軟人工智能路徑和我們合作方式的核心。多年來(lái),無(wú)論客戶是構(gòu)建自己的模型,還是使用來(lái)自微軟、Meta、OpenAI 組織和開源生態(tài)系統(tǒng)的預(yù)構(gòu)建和可定制模型,我們都以巨大的投入使 Azure 成為負(fù)責(zé)任的尖端人工智能創(chuàng)新的場(chǎng)所。

在微軟,我們通過(guò)包括實(shí)驗(yàn)和測(cè)量在內(nèi)的迭代、分層方法來(lái)降低使用大型語(yǔ)言模型帶來(lái)的潛在風(fēng)險(xiǎn)。Azure AI 客戶可以使用自己的樣本數(shù)據(jù)測(cè)試 Llama 2,以了解其在特定用例中的表現(xiàn)。

之后,客戶可以使用提示工程和檢索增強(qiáng)生成(RAG)技術(shù),為其應(yīng)用程序開發(fā)、評(píng)估和優(yōu)化元數(shù)據(jù),并為最終用戶提供更安全、更可靠的體驗(yàn)。

Azure AI 內(nèi)容安全等服務(wù)在此基礎(chǔ)上增加了另一層保護(hù),從而確保使用 AI 應(yīng)用程序獲得更安全的在線體驗(yàn)。我們與 Meta 合作的部分成果是將 Meta 的安全技術(shù)與 Azure AI 內(nèi)容安全相結(jié)合。因此在 Azure AI 中部署的 Llama 2 模型就會(huì)默認(rèn)采用分層安全方法。

微軟通過(guò) Llama 2 擴(kuò)展 Azure 的模型目錄并與 Meta 建立合作伙伴關(guān)系,這是在實(shí)現(xiàn)負(fù)責(zé)任、開放的人工智能方法方面邁出的一大步。

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-07-26
微軟與Meta拓展AI合作:Llama 2登陸Azure和 Windows
Llama 還將在 Windows 上運(yùn)行。

長(zhǎng)按掃碼 閱讀全文