矩陣乘法構(gòu)成了所有人工智能計(jì)算的支柱。3D光學(xué)計(jì)算帶來(lái)的高吞吐量和低延遲對(duì)于人工智能推理任務(wù)尤其有價(jià)值。

當(dāng)前的人工智能世界耗電且計(jì)算有限。模型開(kāi)發(fā)的軌跡很快，但隨著這種進(jìn)步，需要大幅增加計(jì)算能力?，F(xiàn)有的基于晶體管的計(jì)算正在接近其物理極限，并且已經(jīng)難以滿足這些不斷增長(zhǎng)的計(jì)算需求。

大型企業(yè)已經(jīng)嘗試通過(guò)開(kāi)發(fā)自己的定制芯片解決方案來(lái)解決這個(gè)問(wèn)題。然而，硬件瓶頸可能過(guò)于嚴(yán)重，無(wú)法用傳統(tǒng)的電子處理器來(lái)克服。那么，技術(shù)如何才能充分滿足對(duì)計(jì)算能力呈指數(shù)級(jí)增長(zhǎng)的需求呢？

矩陣乘法

在大型語(yǔ)言模型中，90%以上的計(jì)算任務(wù)都使用矩陣乘法。通過(guò)以結(jié)構(gòu)化方式進(jìn)行乘法和加法的基本運(yùn)算，矩陣乘法支持人工智能的不同功能塊。這不僅僅是語(yǔ)言模型。這種基本的線性代數(shù)運(yùn)算是幾乎每種神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)：實(shí)現(xiàn)神經(jīng)元的大規(guī)模互連，執(zhí)行圖像分類和對(duì)象檢測(cè)的卷積，處理順序數(shù)據(jù)等。這是一個(gè)簡(jiǎn)單的概念，但對(duì)于有效操縱和轉(zhuǎn)換支持人工智能和無(wú)數(shù)其他應(yīng)用的數(shù)據(jù)來(lái)說(shuō)是不可或缺的，因此矩陣乘法的重要性怎么估計(jì)都不為過(guò)。

隨著人工智能模型變得越來(lái)越大，必須執(zhí)行更多的矩陣運(yùn)算，這意味著需要越來(lái)越多的計(jì)算能力。為了達(dá)到所需的性能，即使是現(xiàn)在，電子產(chǎn)品也被推到了極限。還有其他選擇嗎？

光學(xué)矩陣乘法

光學(xué)已經(jīng)以多種方式用于改變我們的生活，最引人注目的是光纖網(wǎng)絡(luò)中的光通信。光學(xué)計(jì)算自然是下一步。數(shù)字電子學(xué)需要大量晶體管來(lái)執(zhí)行最簡(jiǎn)單的算術(shù)運(yùn)算，而光學(xué)計(jì)算則利用物理定律進(jìn)行計(jì)算。輸入信息被編碼為光束，并利用光學(xué)的自然特性（例如干涉和衍射）執(zhí)行矩陣乘法。信息可以以多種波長(zhǎng)、偏振和空間模式進(jìn)行編碼，從而允許無(wú)限量的并行處理，并且計(jì)算實(shí)際上以光速進(jìn)行。

通過(guò)3D光學(xué)添加新維度

隨著登納德縮放定律和摩爾定律的結(jié)束，是時(shí)候重新審視計(jì)算的基礎(chǔ)知識(shí)了。數(shù)字電子產(chǎn)品本質(zhì)上局限于“2D”布局——晶體管柵極和電路制造在晶圓上，計(jì)算是通過(guò)2D平面上不同單元之間的信息流動(dòng)進(jìn)行的。這種2D計(jì)算架構(gòu)需要不斷增加的晶體管密度，導(dǎo)致嚴(yán)重的互連問(wèn)題，并遭受臭名昭著的內(nèi)存瓶頸。隨著3D堆疊存儲(chǔ)器的發(fā)展，2D設(shè)計(jì)的變革現(xiàn)已開(kāi)始，但整個(gè)行業(yè)的適應(yīng)還有很長(zhǎng)的路要走。

現(xiàn)在，光學(xué)可以通過(guò)在3D空間中自然地執(zhí)行計(jì)算來(lái)徹底改變游戲規(guī)則。添加新維度可以放松傳統(tǒng)計(jì)算中的許多限制?；ミB組件更容易，能源效率更高，并且它允許不斷增加的吞吐量（在給定時(shí)間內(nèi)可以執(zhí)行多少計(jì)算），而不影響延遲（每次計(jì)算執(zhí)行的速度）。這對(duì)于3D光學(xué)來(lái)說(shuō)是完全獨(dú)特的：無(wú)論是將10個(gè)數(shù)字相乘還是10,000個(gè)數(shù)字相乘，這一切都會(huì)以光速同時(shí)發(fā)生。這對(duì)光學(xué)處理器的可擴(kuò)展性產(chǎn)生了巨大的影響，使其能夠達(dá)到當(dāng)前數(shù)字處理器速度的1000倍。

除了3D光學(xué)固有的可擴(kuò)展性之外，光學(xué)器件的時(shí)鐘速度可以提供比傳統(tǒng)電子器件快100倍的速度，并且波長(zhǎng)復(fù)用（使用多個(gè)波長(zhǎng)的光并行處理信息）的能力為進(jìn)一步提高100倍打開(kāi)了大門(mén)。將這一切結(jié)合在一起，使能夠以指數(shù)方式擴(kuò)展計(jì)算速度，并具有更高的吞吐量、更低的延遲和更高的可靠性，而這些只有3D光學(xué)矩陣乘法才能提供。

這對(duì)人工智能意味著什么？

無(wú)論應(yīng)用如何，矩陣乘法構(gòu)成了所有人工智能計(jì)算的支柱。值得注意的是，3D光學(xué)帶來(lái)的高吞吐量和低延遲對(duì)于數(shù)據(jù)中心的人工智能推理任務(wù)特別有價(jià)值，這是一種由實(shí)時(shí)響應(yīng)能力和效率推動(dòng)的應(yīng)用程序。

與傳統(tǒng)電子或集成光子學(xué)相比，3D光學(xué)計(jì)算在帶寬、延遲、速度和可擴(kuò)展性方面取得顯著改進(jìn)，再加上與現(xiàn)有機(jī)器學(xué)習(xí)算法的兼容性，有望徹底改變所有人工智能應(yīng)用。

CIBIS峰會(huì)

由千家網(wǎng)主辦的2023年第24屆CIBIS建筑智能化峰會(huì)即將正式拉開(kāi)帷幕，本屆峰會(huì)主題為“智慧連接，‘筑’就未來(lái)”， 將攜手全球知名智能化品牌及業(yè)內(nèi)專家，共同探討物聯(lián)網(wǎng)、AI、云計(jì)算、大數(shù)據(jù)、IoT、智慧建筑、智能家居、智慧安防等熱點(diǎn)話題與最新技術(shù)應(yīng)用，分享如何利用更知慧、更高效、更安全的智慧連接技術(shù)，“筑”就未來(lái)美好智慧生活。歡迎建筑智能化行業(yè)同仁報(bào)名參會(huì)，分享交流！

報(bào)名方式

長(zhǎng)沙站（11月09日）：https://www.huodongxing.com/event/7715337579900

上海站（11月21日）：https://www.huodongxing.com/event/9715337959000

北京站（11月23日）：https://www.huodongxing.com/event/3715338464800

廣州站（12月07日）：https://www.huodongxing.com/event/6715338767700

更多2023年CIBIS峰會(huì)信息，詳見(jiàn)峰會(huì)官網(wǎng)：http://summit.qianjia.com/

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。