去年底,ChatGPT橫空出世,不僅吸引了全球各界的眼光,更是讓生成式AI的熱浪來襲。隨后,Google、百度、阿里巴巴、360等紛紛下場,發(fā)布各自大模型產(chǎn)品,使得整個(gè)市場熱度有增無減。
如今,亞馬遜云科技也正式下場。作為云計(jì)算領(lǐng)域的頭牌廠商,亞馬遜云科技此次帶來了Amazon Bedrock生成式AI托管服務(wù)、Amazon Titan大語言模型、Amazon EC2 Trn1n、Amazon EC2 Inf2以及Amazon CodeWhisperer全家桶式的組合式服務(wù)。
眾所周知,越來越多企業(yè)意識(shí)到生成式AI所帶來顛覆性的變化,也渴望能夠利用生成式AI、大模型等強(qiáng)大的能力來改變自身。但強(qiáng)大的生成式AI后面是基礎(chǔ)設(shè)施、大模型和模型應(yīng)用等一系列復(fù)雜的組合,絕非簡單搭建即可實(shí)現(xiàn)。
亞馬遜云科技全家桶式的生成式AI組合無疑瞄準(zhǔn)了當(dāng)下生成式AI應(yīng)用的痛點(diǎn),通過一系列產(chǎn)品與服務(wù)來降低了生成式AI應(yīng)用的門檻和成本,助力普惠AI的加速實(shí)現(xiàn)。亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建直言:“亞馬遜云科技希望將生成式AI技術(shù)從研究和實(shí)驗(yàn)領(lǐng)域釋放出來,不僅僅是大型科技公司的專屬,而是讓更多公司能夠從中受益。”
生成式AI的基石:云計(jì)算
什么是生成式AI的基石?
毫無疑問是云計(jì)算。本質(zhì)上,生成式AI涉及到前端應(yīng)用、模型庫、大模型以及基礎(chǔ)設(shè)施。像ChatGPT這種生成式AI應(yīng)用,背后起到支撐作用的正是強(qiáng)大的基礎(chǔ)設(shè)施。例如,公開信息顯示,OpenAI在訓(xùn)練GPT-3大模型時(shí)用到了數(shù)十萬個(gè)CPU、上萬個(gè)GPU等大量基礎(chǔ)設(shè)施資源。
因?yàn)樾枰拇罅康乃懔蛿?shù)據(jù)資源,所以生成式AI應(yīng)用所面臨的門檻極高。以基礎(chǔ)設(shè)施層為例,訓(xùn)練大模型涉及到采取何種并行策略、如何進(jìn)行高效數(shù)據(jù)存儲(chǔ)、如何選擇合適的數(shù)據(jù)精度以及如何實(shí)現(xiàn)動(dòng)態(tài)負(fù)載均衡等等一系列問題。
因此,云計(jì)算平臺(tái)無疑是生成式AI最為理想的基礎(chǔ)平臺(tái)。像亞馬遜云科技這樣的大型云服務(wù)商,本身就擁有強(qiáng)大的基礎(chǔ)設(shè)施能力,能夠滿足生成式AI對于算力的強(qiáng)大需求,并且在并行計(jì)算、數(shù)據(jù)高效存儲(chǔ)甚至運(yùn)維等方面均有著豐富的經(jīng)驗(yàn),通過屏蔽底層基礎(chǔ)設(shè)施的復(fù)雜性,為用戶帶來性價(jià)比更加出色的基礎(chǔ)設(shè)施服務(wù)。
以訓(xùn)練為例,眾所周知,大模型訓(xùn)練往往需要耗費(fèi)大量的GPU,但GPU實(shí)際效果遠(yuǎn)非人們想象中那么理想。為此,亞馬遜云科技針對生成式AI推出了兩款優(yōu)化的計(jì)算實(shí)例Amazon EC2 Trn1n 實(shí)例和Amazon EC2 Inf2 。訓(xùn)練實(shí)例Amazonn EC2 Trn1 由其自研芯片Trainium支持,可節(jié)省高達(dá)50%的訓(xùn)練成本。推理實(shí)例Amazon Inf2 基于其自研芯片Inferentia2 ,據(jù)稱吞吐量提高了4倍,延遲降低了10倍。
陳曉建介紹:“Trn1n是一個(gè)網(wǎng)絡(luò)增強(qiáng)型的新實(shí)例,網(wǎng)絡(luò)帶寬提升到1.6TB,旨在為大型網(wǎng)絡(luò)密集型的模型訓(xùn)練來使用。Inf2則把云中推理成本降到了最低?!?/p>
除了基礎(chǔ)設(shè)施之外,生成式AI要想真正用起來,也離不開模型層的服務(wù),而亞馬遜云科技有針對性的推出了Amazon BedRock,為大模型的應(yīng)用打開了全新的思路。
Amazon Bedrock,降低大模型門檻
在近年來的人工智能發(fā)展中,經(jīng)歷了“大練模型”到“練大模型”的過程。OpenAI GPT模型的發(fā)展歷程也是如此,直到基于GPT-3.5的ChatGPT橫空出世,極大打破了人們對于AI的認(rèn)知,原來生成式AI在大模型參數(shù)足夠多、訓(xùn)練數(shù)據(jù)足夠出色的情況下,其“涌現(xiàn)”能力往往讓人驚奇。
正因?yàn)槿绱耍芏嘈袠I(yè)用戶都在密切關(guān)注大模型的訓(xùn)練。例如,彭博已經(jīng)在金融領(lǐng)域率先嘗鮮,推出了擁有500億參數(shù)的BloombergGPT,希望在日常業(yè)務(wù)中融入大模型的能力。
但要想真正把大模型用起來絕非易事,哪怕是一些行業(yè)龍頭面對大模型的構(gòu)建時(shí)也會(huì)束手無策。亞馬遜云科技的思路是通過Amazon Bedrock,來降低大模型訓(xùn)練的門檻,推動(dòng)生成式AI的普惠。
據(jù)悉,Amazon Bedrock是完全托管式的云服務(wù),通過API提供無服務(wù)器的托管體驗(yàn),客戶無需擔(dān)心實(shí)例類型、網(wǎng)絡(luò)拓?fù)浜投它c(diǎn)等基礎(chǔ)設(shè)施細(xì)節(jié),用戶可以通過API的方式來訪問亞馬遜云科技Titan大模型,以及AI21Labs、Anthropic和Stability AI等AI初創(chuàng)公司的預(yù)訓(xùn)練基礎(chǔ)模型,可以為用戶提供多種模型的選擇。
“客戶只要在Amazon S3中提供少量(低至20個(gè))帶標(biāo)簽的示例,就可以輕松定制Amazon Bedrock的基礎(chǔ)模型,用于其特定用例。此外,客戶還能通過Amazon Bedrock獨(dú)家訪問亞馬遜云科技開發(fā)的最先進(jìn)基礎(chǔ)模型。”陳曉建透露道。
Amazon Titan大模型是基于亞馬遜云科技20多年機(jī)器學(xué)習(xí)經(jīng)驗(yàn)訓(xùn)練出來的,包括Titan Text和Titan Embeddings。Titan Text是基于總結(jié)文本生成、分類、開放式回答和信息提取等任務(wù)的生成式大語言模型。Titan Embeddings是一個(gè)文本嵌入式的大語言模型,能夠把文本的輸入翻譯成包含語義的數(shù)字表達(dá)。
此外,亞馬遜云科技還強(qiáng)調(diào)了數(shù)據(jù)隱私和數(shù)據(jù)安全的重要性。用戶在Amazon Bedrock平臺(tái)訓(xùn)練時(shí),所有的數(shù)據(jù)都經(jīng)過加密的,并且不會(huì)離開虛擬專用云(VPC)而且亞馬遜云科技不會(huì)那用戶數(shù)據(jù)再訓(xùn)練Titan大模型。
當(dāng)前,埃森哲、德勤、Infosys 和Slalom 等客戶已經(jīng)在使用亞馬遜云科技Amazon Bedrock服務(wù)。陳曉建介紹:“亞馬遜云科技希望形成一個(gè)開放性、多元的底層模型環(huán)境?!?/p>
全家桶式服務(wù):普惠AI指日可待
亞馬遜云科技還針對開發(fā)者們發(fā)布了AI編碼助手Amazon CodeWhisperer,面向所有個(gè)人用戶免費(fèi)開放,不設(shè)任何資質(zhì)或使用時(shí)長的限制!
眾所周知,生成式 AI 可以通過“編寫”大量無差異代碼來消除繁重、重復(fù)的編碼工作,有利于開發(fā)人員進(jìn)行其他創(chuàng)新。以Amazon CodeWhisperer為例,其幫助開發(fā)者基于注釋生成代碼,追蹤開源參考,掃描查找漏洞。
此外,Amazon CodeWhisperer還可以幫助開發(fā)者創(chuàng)建代碼勝任如下場景,比如常規(guī)、耗時(shí)的無差別任務(wù),或是在使用不熟悉的API或SDK時(shí)構(gòu)建示例代碼,亦或要正確高效地使用亞馬遜云科技API操作,還有其他場景比如編寫讀寫文件、處理圖像、編寫單元測試等代碼。Amazon CodeWhisperer還能利用亞馬遜云科技在安全方面的積累來掃描各種安全問題,自動(dòng)掃描代碼中的安全漏洞并幫用戶修復(fù)。
據(jù)悉,Amazon CodeWhisperer可以支持15 種編程語言,包括Python、Java 和 C++等,以及開發(fā)者最喜歡的集成開發(fā)環(huán)境 (IDE),包括 VS Code、IntelliJ IDEA 和 AWS Cloud9等。
亞馬遜云科技大中華區(qū)數(shù)據(jù)技術(shù)專家團(tuán)隊(duì)總監(jiān)王曉野介紹:“Amazon CodeWhisperer更像是一款插件,可以直接安裝在開發(fā)者現(xiàn)有開發(fā)環(huán)境中,開發(fā)者可以通過注釋的方式與Amazon CodeWhisperer交互。它類似開發(fā)者的智能助手,最主要的優(yōu)勢在于提高生產(chǎn)力。例如,使用Amazon CodeWhisperer之后,開發(fā)者無需切換到其他頁面去查找文檔?!?/p>
毫無疑問,生成式AI和大語言模型是革命性的,將深刻影響到每一個(gè)行和和每一個(gè)人。有研究顯示,到2027年,全球生成式AI市場預(yù)計(jì)將增長7倍,將超過1000億美元,將廣泛應(yīng)用到智能客服、內(nèi)容優(yōu)化與推廣、智能輔助內(nèi)容生產(chǎn)、對話系統(tǒng)、自動(dòng)化產(chǎn)品設(shè)計(jì)等場景領(lǐng)域。普惠AI,讓AI民主化是整個(gè)社會(huì)的大勢所趨,而亞馬遜云科技生成式AI全家桶式的服務(wù)組合,無疑率先在市場中降低了生成式AI的門檻,打開了普惠AI的局面。
免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個(gè)人觀點(diǎn),與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請自行核實(shí)相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 100億美元史上最大融資的背后,國內(nèi)外巨頭齊瞄準(zhǔn)Data+AI
- 有一種羨慕叫“別人家的年終獎(jiǎng)”:京東采銷平均23薪,全網(wǎng)熱議“人的價(jià)值”
- 行業(yè)首個(gè)“人機(jī)大戰(zhàn)”對壘!AI翻譯已媲美人工
- 蘋果開啟年終大促,降價(jià)1200元,被國產(chǎn)手機(jī)嚇怕了?
- 1999 元起,OPPO A5 Pro 超防水、超抗摔、超耐用
- 長三角,如何把數(shù)據(jù)要素變成新長江?
- 大模型,在內(nèi)卷中尋找出口
- 比亞迪“天神之眼”重磅升級:無圖城市領(lǐng)航功能全國開通
- 不愿成為微信的支付寶,注定失敗
- 大廠年終獎(jiǎng)全靠猜?京東帶頭透明化
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。