極客網(wǎng)?極客觀察7月18日,計算產(chǎn)業(yè)走到了轉(zhuǎn)折點,一方面,深度學(xué)習(xí)(機器學(xué)習(xí)的一種)流行,對芯片提出新要求,另一方面,摩爾定律漸漸失效。幾天前,來自各大芯片巨頭的高管齊聚舊金山,討論未來大計。
周二時,在Applied Materials贊助下,A.I. Design Forum(AI設(shè)計論壇)開幕;就在同一時間,另一場芯片年度盛會Semicon West也拉開序幕。
從聚會傳達的信號看,既有好消息,也有壞消息。先說好的一面,廠商開發(fā)許多新工具,例如,AMD、Xilinx開發(fā)的異構(gòu)芯片可以滿足深度學(xué)習(xí)的要求。再看不好的一面,計算需求越來越大,數(shù)據(jù)中心壓力加大,到底廠商開發(fā)的新玩意能否減輕數(shù)據(jù)中心的壓力呢?大家沒有給出明確答案。
摩爾定律逐漸失效,芯片架構(gòu)需要謀變
在Semicon展會上我們看到許多新芯片,AI論壇的重點不是展示產(chǎn)品,而是討論未來,比如機器學(xué)習(xí)大爆炸有何影響,對計算機來說意味著什么。
Applied Materials CEO Gary Dickerson發(fā)表演講,他剛一開口就說摩爾定律正在減速,他還援引加州大學(xué)伯克利分校教授David Patterson、Alphabet董事長John Hennessy提供的數(shù)據(jù)說,每年新處理的速度只提升3.5%。這一數(shù)據(jù)實際上有點過時了,2月份的新數(shù)據(jù)說提升速度只有3%。
Dickerson預(yù)測,在未來大約10年的時間里,全球數(shù)據(jù)中心的AI負(fù)載將會占到計算周期(Compute Cycles)的80%,占據(jù)全球用電量的10%。
如何應(yīng)對這種變化?Dickerson認(rèn)為行業(yè)應(yīng)該從多個角度尋找解決方案,比如設(shè)計新芯片架構(gòu),開發(fā)新型內(nèi)存芯片。他提到幾種新內(nèi)存,比如MRAM、ReRAM(resistive RAM)、PCRAM(phase-change RAM)和FeRAM。行業(yè)還要研究新邏輯芯片設(shè)計方法,開發(fā)新芯片,這種芯片可以用連續(xù)實值信號處理數(shù)據(jù),而不是用離散單元的形式處理,除了硅之外,行業(yè)還要努力尋找新材料。
AMD CEO Lisa Su和Xilinx CEO Victor Peng都談到了異構(gòu)計算。
Lisa Su介紹了Epyc服務(wù)器芯片,它將多塊硅片封裝在一起,在硅片之間有高速存儲器總線。Victor Peng談到了Xilinx開發(fā)的可編程芯片,也就是FPGA,它既能處理AI矩陣乘法,還能處理機器學(xué)習(xí)運行前后的傳統(tǒng)軟件任務(wù)。
因心存恐懼,谷歌TPU率先邁出一步
谷歌高級工程師Cliff Young介紹了Tensor Processing Unit(簡稱TPU)的進展,從2013年開始,谷歌一直在開發(fā)TPU。Cliff Young解釋說,谷歌之所以拼命開發(fā)TPU,主要是心存恐懼。
為什么這樣講呢?谷歌平臺出現(xiàn)越來越多的機器學(xué)習(xí)服務(wù),矩陣乘法已經(jīng)成為谷歌數(shù)據(jù)中心計算周期中相當(dāng)重要的部分,如果每個人每天向手機說2分鐘的話,或者每天分析2分鐘的視頻片段,都用機器學(xué)習(xí)來完成,那么谷歌的計算機就會不夠用。
Cliff Young告訴大家,AI服務(wù)需求出現(xiàn)大爆炸,既有可能帶來成功,也有可能帶來災(zāi)難,谷歌已經(jīng)啟動15個月的崩潰測試,希望能讓性能提升10倍。
現(xiàn)在TPU已經(jīng)發(fā)展到第三代,不過危機并沒有結(jié)束。Cliff Young說計算需要正在飛速增長。谷歌有倉庫一樣大的建筑,里面裝滿架子,上面裝有TPU,可是仍然不夠用。如何擴大數(shù)據(jù)中心?即使是谷歌也受到限制,更別說其它企業(yè)了。
Cliff Young認(rèn)為,硬件設(shè)計師、軟件程序員應(yīng)該攜手合作,共同設(shè)計,還要與材料物理學(xué)家一起設(shè)計。Cliff Young問大家:“我們能不能用光收發(fā)器操縱神經(jīng)網(wǎng)絡(luò)呢?”光計算在矩陣乘法方面有著超強表現(xiàn),但是用它處理神經(jīng)網(wǎng)的其它關(guān)鍵部分表現(xiàn)卻很平庸。
CMOS是基本的芯片材料,Cliff Young認(rèn)為行業(yè)應(yīng)該努力尋找替代材料。內(nèi)存計算同樣很重要,我們可以讓計算靠近內(nèi)存單元,縮短數(shù)據(jù)傳輸距離。Cliff Young還說,機器學(xué)習(xí)也許能為模擬計算帶來新機會。
摩爾定律已死,需要調(diào)整步調(diào)跟上AI速度
會議快要結(jié)束時,主持人與5位風(fēng)投家座談,談?wù)撊绾螢榧舛思夹g(shù)開發(fā)商(比如AI企業(yè))提供資金支持。
5位風(fēng)投家分別是Lux Capital管理合伙人Shahin Farshchi,Spirit Ventures普通合伙人Laura Oliphant,Hardware Club普通合伙人Aymerik Reynard,Applied Ventures普通合伙人Rajesh Swaminathan和英特爾風(fēng)投投資主管Jennifer Ard。
座談開始時,主持人問小組成員:摩爾定律是不是已經(jīng)死了?有4人回答說“YES”,只有Shahin Farshchi給出否定回答。Shahin Farshchi解釋說,雖然我們無法再用摩爾定律來預(yù)測晶體管的進步,但是計算力仍然可以用相同的速度增長,只是來自于整個計算生態(tài)系統(tǒng)。
不管這種說法準(zhǔn)不準(zhǔn)確,他的論調(diào)和會議的其它言論是一致的。整個行業(yè)正在調(diào)整步伐,希望能跟上AI的節(jié)奏。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )