2022 年在 AI/ML 領(lǐng)域取得了許多突破性的突破。谷歌、Meta 和微軟等大型科技公司在從量子計(jì)算到生成人工智能的全新創(chuàng)新中取得了重大進(jìn)步。
例如,一些最大的突破包括解決國際數(shù)學(xué)奧林匹克問題的 Meta 的 HyperTreeProofSearch (HTPS);DeepMind 的 Alpha Fold 和 Meta AI 的 ESMFold 用于蛋白質(zhì)折疊預(yù)測;谷歌的DeepNull模擬表型之間協(xié)變量效應(yīng)的關(guān)系并改進(jìn)全基因組關(guān)聯(lián)研究 (GWAS)等等。
接下來,讓我們看看對(duì) 2023 年的一些預(yù)測。
ChatGPT以其出色的對(duì)話能力風(fēng)靡互聯(lián)網(wǎng)。它是建立在 OpenAI 的GPT-3上的,GPT-3有 1760 億個(gè)參數(shù),依賴于更大的模型尺寸。雖然還有其他 LLM 的參數(shù)是 GPT-3 的兩倍、三倍甚至十倍,但 DeepMind 或 Meta 的一些模型(也稱為小型語言模型(SLM))的參數(shù)數(shù)量已經(jīng)超過 GPT- 3 在邏輯推理和預(yù)測等多項(xiàng)任務(wù)上。
除了減小模型的大小外,預(yù)計(jì)還會(huì)有一個(gè)更大的模型,如GPT-4 ,具有大約 100 萬億個(gè)參數(shù)。由于目前最大的模型是具有 1.6 萬億個(gè)參數(shù)的 Google Switch Transformer 模型,因此跳躍將是巨大的。
然而,為了獲得更大的延遲和可預(yù)測性,未來幾年可以看到對(duì)現(xiàn)有模型進(jìn)行微調(diào)以服務(wù)于特定目的。最近,OpenAI 使用達(dá)芬奇更新對(duì) GPT-3 進(jìn)行了微調(diào)。
趨勢一:生成式 AI 需要可解釋的 AI
文本到圖像的生成是 2022 年打破排行榜的趨勢。DALL-E、Stable Diffusion 和 Midjourney 等模型在想要試驗(yàn) AI 生成藝術(shù)的愛好者中名列前茅。對(duì)話很快從文本到圖像轉(zhuǎn)移到文本到視頻,再到文本到任何東西,并且創(chuàng)建了多個(gè)模型,這些模型也可以生成 3D 模型。
隨著語言模型的擴(kuò)展以及傳播模型的改進(jìn),文本到任何東西的趨勢預(yù)計(jì)會(huì)上升得更高。公開可用的數(shù)據(jù)集使生成式 AI 模型更具可擴(kuò)展性。
這些數(shù)據(jù)集引入了有關(guān)可解釋人工智能的部分,其中訓(xùn)練這些生成模型的每張圖像的屬性變得至關(guān)重要。
趨勢二:FastSaaS 競賽開始
趕上生成人工智能趨勢的公司已經(jīng)開始將其作為云端服務(wù)提供。隨著 LLM 和 GPT-3 和 DALL-E 等生成模型的公開可用,企業(yè)越來越容易將它們作為服務(wù)提供,這催生了FastSaaS。
最近,Shutterstock計(jì)劃將 DALL-E 2 集成到其平臺(tái),MicrosoftVS Code添加了 Copilot 作為擴(kuò)展,TikTok宣布推出應(yīng)用內(nèi)文本到圖像 AI 生成器,Canva推出了 AI - 在其平臺(tái)上生成功能。
趨勢三:依賴超級(jí)計(jì)算機(jī)
這就是構(gòu)建超級(jí)計(jì)算機(jī)以依賴于生成任務(wù)以及為公司提供服務(wù)的趨勢。隨著這些不斷增加的數(shù)據(jù)集和生成模型,對(duì)超級(jí)計(jì)算機(jī)的需求正在上升,并且預(yù)計(jì)會(huì)進(jìn)一步上升。隨著對(duì) FastSaaS 的競爭,對(duì)更好和高性能計(jì)算的需求是下一件事。
NVIDIA 和微軟最近合作創(chuàng)建了Quantum-2,一個(gè)云原生超級(jí)計(jì)算平臺(tái)。10 月,特斯拉宣布其Dojo超級(jí)計(jì)算機(jī)完全使用特斯拉開發(fā)的芯片從零開始構(gòu)建。很快,它看起來可以為企業(yè)客戶提供訪問權(quán)限。此外,Cerebras 還推出了 Andromeda,這是一臺(tái)擁有 1350 萬核心的 AI 超級(jí)計(jì)算機(jī),可提供超過 1 exaflop 的 AI 計(jì)算能力。最近,Jasper 與 Cerebras 合作以實(shí)現(xiàn)更好的性能。
趨勢四:超越 3nm 芯片
正如摩爾定律所預(yù)測的那樣,處理能力隨著芯片尺寸的減小而增加。因此,超級(jí)計(jì)算機(jī)要運(yùn)行大型模型,就需要更小的芯片,而且我們已經(jīng)看到芯片越來越小。
近年來,芯片行業(yè)一直在推動(dòng)小型化,制造商不斷尋找使芯片更小、更緊湊的方法。比如M2芯片和A16,蘋果分別使用5nm和4nm芯片,預(yù)計(jì)2023年臺(tái)積電會(huì)開發(fā)3nm芯片,這將提高AI/ML算法開發(fā)的效率和性能。
趨勢五:量子與傳統(tǒng)計(jì)算的融合
隨著NVIDIA、谷歌和微軟等公司向云端提供硬件服務(wù),量子計(jì)算領(lǐng)域的更多創(chuàng)新勢必會(huì)發(fā)生。這將允許小型科技公司在不需要重型硬件的情況下訓(xùn)練、測試和構(gòu)建 AI/ML 模型。
未來幾年量子計(jì)算的興起絕對(duì)應(yīng)該被開發(fā)人員納入,因?yàn)樗氖褂脤⒃谠S多其他領(lǐng)域增加,如醫(yī)療保健、金融服務(wù)等。
在最近的公告中,一臺(tái)量子計(jì)算機(jī)連接到歐洲最快的超級(jí)計(jì)算機(jī),以結(jié)合傳統(tǒng)計(jì)算機(jī)和量子計(jì)算機(jī)以更快地解決問題。同樣,Nvidia 也發(fā)布了QODA——簡稱 Quantum-Optimised Device Architecture,這是混合量子經(jīng)典計(jì)算機(jī)的首創(chuàng)平臺(tái)。
IBM最近在其 2022 年年度量子峰會(huì)上宣布了他們的量子硬件和軟件,概述了使用 433 量子位 (qubit) 處理器進(jìn)行以量子為中心的超級(jí)計(jì)算的開創(chuàng)性愿景。在全球人工智能峰會(huì)上,IBM宣布明年他們將展示一個(gè) 1000 量子比特的系統(tǒng),這將成為各個(gè)領(lǐng)域進(jìn)一步創(chuàng)新的顛覆者。
------------------------峰會(huì)預(yù)告近期,由千家網(wǎng)主辦的2022年第23屆中國國際建筑智能化峰會(huì)將正式拉開帷幕,本屆峰會(huì)主題為“數(shù)智賦能,碳索新未來”,屆時(shí)將攜手全球知名建筑智能化品牌及專家,共同分享AI、云計(jì)算、大數(shù)據(jù)、IoT、智慧城市、智能家居、智慧安防等熱點(diǎn)話題與最新技術(shù)應(yīng)用,并探討如何打造“更低碳、更安全、更穩(wěn)定、更開放”的行業(yè)生態(tài),助力“雙碳”目標(biāo)的實(shí)現(xiàn)。
歡迎建筑智能化行業(yè)同仁報(bào)名參會(huì),分享交流!
報(bào)名方式
成都站(12月20日):https://www.huodongxing.com/event/5657854318600
西安站(12月22日):https://www.huodongxing.com/event/4638585444400
廣州站(2023年1月3日):https://www.huodongxing.com/event/2638587914600
上海站(待定):https://www.huodongxing.com/event/3638582473900
北京站(待定):https://www.huodongxing.com/event/4638577546900
更多2022年峰會(huì)信息,詳見峰會(huì)官網(wǎng):http://summit.qianjia.com/
- 聯(lián)特科技預(yù)計(jì)2024年凈利潤同比增長220.96%—334.25%
- 有方科技預(yù)計(jì)2024年凈利潤同比增長365.41%
- 800G和400G高端光模塊銷售大增 中際旭創(chuàng)2024年凈利潤增長111.64%—166.85%
- 亞信安全:預(yù)計(jì)2024年實(shí)現(xiàn)扭虧為盈
- Arm發(fā)布芯粒系統(tǒng)架構(gòu)首個(gè)公開規(guī)范,加速芯片技術(shù)演進(jìn)
- 中國鐵塔擬新購一套應(yīng)急無人直升機(jī)空中基站
- 427780臺(tái) 中國鐵塔啟動(dòng)智能維護(hù)攝像機(jī)產(chǎn)品集中招標(biāo)
- 規(guī)模267904臺(tái) 中國鐵塔啟動(dòng)2025年自研邊緣網(wǎng)關(guān)合作伙伴招標(biāo)
- 國家數(shù)據(jù)局聲明:未授權(quán)任何“數(shù)據(jù)要素×”相關(guān)有償活動(dòng)
- 中電興發(fā)2024年度預(yù)計(jì)虧損擴(kuò)大 智慧城市業(yè)務(wù)成拖累
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。