在2019年云棲大會(huì)主論壇，阿里巴巴CTO、達(dá)摩院院長(zhǎng)張建鋒從口袋里掏出一款看得見(jiàn)、摸得著的芯片：含光800。這是一款AI芯片，重點(diǎn)應(yīng)用于機(jī)器視覺(jué)中，如圖片識(shí)別、視頻識(shí)別等。作為平頭哥半導(dǎo)體公司首顆自主研發(fā)的芯片，含光800成為云棲大會(huì)主論壇的熱門話題。
全球最強(qiáng)AI芯片？
一年前的云棲大會(huì)上，平頭哥半導(dǎo)體公司宣告成立，這是阿里首次對(duì)外宣告要自主造芯，但事實(shí)上，阿里很早就已想要擁有自己的芯片，并為此籌謀許久。阿里當(dāng)時(shí)宣布正在打造內(nèi)部代號(hào)為“Ali-NPU”的芯片，主要針對(duì)圖像和視頻的AI任務(wù)加速場(chǎng)景，按照設(shè)計(jì)，Ali-NPU的性能將是同類產(chǎn)品的40倍。對(duì)于“40倍”這個(gè)數(shù)字，當(dāng)時(shí)很多人是不信的。
從定位來(lái)看，含光800應(yīng)該就是一年前所說(shuō)的Ali-NPU，我注意到在發(fā)布會(huì)現(xiàn)場(chǎng)，張建鋒數(shù)次強(qiáng)調(diào)這款芯片很“大”——移動(dòng)端芯片因?yàn)閼?yīng)用場(chǎng)景要求往往都強(qiáng)調(diào)體積的小，這意味著含光800的應(yīng)用場(chǎng)景不是終端，而是云端服務(wù)器?！按蟆辈皇侵阁w積大，而是計(jì)算能力強(qiáng)大，其每秒能處理78000張圖片。僅僅是從晶體管數(shù)量來(lái)看，含光800擁有170億個(gè)晶體管就遠(yuǎn)超同行。
最能體現(xiàn)出其算力強(qiáng)大的則是一組對(duì)比數(shù)據(jù)。在業(yè)界標(biāo)準(zhǔn)的ResNet-50測(cè)試中，含光800推理性能達(dá)到78563 IPS，比目前業(yè)界最好的AI芯片Habana Goya 高4倍；能效比500 IPS/W是其3.3倍。跟一年前市面上的英偉達(dá)P4比，性能有46倍的優(yōu)勢(shì)，“Ali-NPU 性能40倍于同類產(chǎn)品”不是吹牛。
含光800算力強(qiáng)大的原因在于面向AI視覺(jué)場(chǎng)景自研的架構(gòu)和定制的算法，以下來(lái)自官方新聞稿：
“含光800硬件層面采用自研芯片架構(gòu)，通過(guò)推理加速等技術(shù)有效解決芯片性能瓶頸問(wèn)題；軟件層面集成了達(dá)摩院先進(jìn)算法，針對(duì)CNN及視覺(jué)類算法深度優(yōu)化計(jì)算、存儲(chǔ)密度，可實(shí)現(xiàn)大網(wǎng)絡(luò)模型在一顆NPU上完成計(jì)算?！?/blockquote>更具體的解釋：平頭哥針對(duì)含光800瞄準(zhǔn)的機(jī)器視覺(jué)場(chǎng)景，自研了架構(gòu)、軟件編譯器、框架、工具鏈等等，并針對(duì)INT8數(shù)據(jù)類型做了大量?jī)?yōu)化，最終在性能、良率、功耗等指標(biāo)上均表現(xiàn)良好。比如在架構(gòu)上，含光800針對(duì)深度學(xué)習(xí)中使用的大量權(quán)重參數(shù)和張量數(shù)據(jù)，在支持稀疏壓縮與量化處理的基礎(chǔ)上，通過(guò)獨(dú)特設(shè)計(jì)的數(shù)據(jù)訪存與流水線處理技術(shù)，大大減低了I/O需求和數(shù)據(jù)的搬移，NPU同時(shí)深度優(yōu)化了卷積，矩陣乘，向量計(jì)算和各種激活函數(shù)，通過(guò)高有效的硬件資源調(diào)度和全并行的數(shù)據(jù)流處理，把AI運(yùn)算的性能和能效雙雙推向極致，整個(gè)架構(gòu)都是創(chuàng)新設(shè)計(jì)的。
換言之，這是一款軟硬件高度整合的AI芯片，用張建鋒的話說(shuō)：傳統(tǒng)芯片公司擅長(zhǎng)硬件，然而在算法上不具備優(yōu)勢(shì)。我看到在一個(gè)媒體社群記者們就“含光800是否全球最強(qiáng)”有不同看法，但毋庸置疑，在視覺(jué)這一場(chǎng)景下，在市面上的同類產(chǎn)品中，含光800從算力、能效比來(lái)看均絕對(duì)領(lǐng)先。
要注意的是，含光800不是一款PPT芯片，其已實(shí)現(xiàn)流片量產(chǎn)，應(yīng)用到阿里商業(yè)生態(tài)中。對(duì)內(nèi)應(yīng)用在阿里核心業(yè)務(wù)上，張建鋒在云棲大會(huì)的現(xiàn)場(chǎng)演示現(xiàn)實(shí)，城市大腦實(shí)時(shí)處理杭州主城區(qū)交通視頻場(chǎng)景，原來(lái)需要40顆傳統(tǒng)GPU，延時(shí)為300ms，使用含光800僅需4顆，延時(shí)降至150ms；拍立淘商品庫(kù)每天新增10億商品圖片，使用傳統(tǒng)GPU算力識(shí)別需要1小時(shí)，使用含光800后可縮減至5分鐘。對(duì)外，含光800不直接售賣，而是通過(guò)云的形式向阿里云數(shù)百萬(wàn)客戶售賣AI算力，基于含光800的AI云服務(wù)已正式上線，相比傳統(tǒng)GPU算力，性價(jià)比提升100%。
平頭哥一年當(dāng)立
含光800的“含光”，將是平頭哥系列終端芯片的名稱。含光是上古時(shí)代三大神劍之一，《列子·湯問(wèn)》：“孔周曰：’吾有三劍，惟子所擇。一曰含光，視不可見(jiàn)，運(yùn)之不知其所觸，泯然無(wú)際，經(jīng)物而物不覺(jué)?！焙宦丁⒐舛灰庵负庀盗行酒瑢⒅鞔驘o(wú)形卻強(qiáng)勁的算力。
百度了一下，另外兩大神劍分別是承影和宵練，這意味著，平頭哥或許還有更多寶劍靜候出鞘。不過(guò)，雖然平頭哥目前只有含光800，但其已擁有多款“寶劍”：7月25日，平頭哥在上海阿里云峰會(huì)上發(fā)布RISC-V處理器玄鐵910，其是業(yè)界性能最強(qiáng)的一款RISC-V處理器IP，就像楊過(guò)可以將玄鐵劍鑄成屠龍刀一樣，5G、人工智能、網(wǎng)絡(luò)通信、自動(dòng)駕駛等領(lǐng)域的開(kāi)發(fā)者可以基于玄鐵定制自有芯片提高性能提高一倍以上，同時(shí)將成本降低一半以上，在玄鐵之前則有C-Sky系列，均主打IoT場(chǎng)景；8月29日，在世界人工智能大會(huì)上，平頭哥發(fā)布無(wú)劍SoC芯片平臺(tái)，集成CPU、GPU、NPU等，降低芯片設(shè)計(jì)門檻。
在含光前，平頭哥發(fā)布的“寶劍”是幫助第三方鑄劍，不論是玄鐵還是無(wú)劍都旨在幫助企業(yè)降低芯片設(shè)計(jì)門檻，“讓天下沒(méi)有難造的芯片”是平頭哥成立的使命之一；含光800則是平頭哥給自己鑄的第一把劍，基于此讓企業(yè)擁有高性價(jià)比的AI算力。
至此，平頭哥的芯片布局已經(jīng)有了雛形：SoC平臺(tái)、處理器IP和自有芯片形成的自有+開(kāi)放結(jié)合的全棧芯片生態(tài)。接下來(lái)平頭哥會(huì)延續(xù)玄鐵、無(wú)劍和含光三大系列進(jìn)行完善，布局云上AI訓(xùn)練芯片和端上的AI推理芯片，已經(jīng)確定的是平頭哥正在研發(fā)用于阿里云神龍服務(wù)器的SoC專用芯片，以滿足更多場(chǎng)景的算力需求。
不論何種形式，平頭哥都將讓算力在AI時(shí)代更加普惠，接下來(lái)，平頭哥將繼續(xù)在端上做芯片基礎(chǔ)設(shè)施，在云端給企業(yè)提供普惠算力，助力企業(yè)擁抱數(shù)字化經(jīng)濟(jì)。
從技術(shù)布局來(lái)看，平頭哥不是孤立的，它是阿里AI+芯片+云計(jì)算三位一體戰(zhàn)略的一部分，因?yàn)橛蠥I算法優(yōu)勢(shì)，含光800作為第一代就擁有全球領(lǐng)先的性能；正是因?yàn)橛酗w天這一阿里自研的高性能云計(jì)算平臺(tái)，含光800性能才可以在云端被充分挖掘轉(zhuǎn)化為強(qiáng)勁算力；正是因?yàn)橛性朴?jì)算這一強(qiáng)勢(shì)業(yè)務(wù)，含光800才可以不售賣芯片只售賣算力的方式商業(yè)化，“芯片即算力，算力即服務(wù)”。
阿里巴巴在云計(jì)算上優(yōu)勢(shì)已經(jīng)確立，阿里云穩(wěn)居亞太第一；基于阿里豐富的應(yīng)用場(chǎng)景和達(dá)摩院高端基礎(chǔ)技術(shù)的布局，阿里在AI技術(shù)上尤其是語(yǔ)音智能、語(yǔ)言技術(shù)、機(jī)器視覺(jué)、決策智能上正在構(gòu)建優(yōu)勢(shì)，平頭哥基于云和AI的優(yōu)勢(shì)迎頭直追。阿里已形成“一拖二”的技術(shù)戰(zhàn)略格局，云計(jì)算領(lǐng)跑，AI和芯片齊頭并進(jìn)，三者互相協(xié)同，你拉我?guī)А?strong>站在這樣的視角來(lái)看，阿里造芯成功有其必然性。
阿里造芯啟示錄
因?yàn)樽匝行酒晒Χ邆浼夹g(shù)長(zhǎng)板的例子很多，比如A系列處理器對(duì)iPhone的成功居功至偉，再比如麒麟處理器則讓華為成功走向了高端，因?yàn)槿狈ψ灾餍酒?，在技術(shù)上體現(xiàn)出短板的公司不勝枚舉。芯片是計(jì)算的基礎(chǔ)，對(duì)科技公司至關(guān)重要，因此2018年以來(lái)科技巨頭都在造芯，不過(guò)現(xiàn)在看來(lái)最新一批“造芯新勢(shì)力”的領(lǐng)先者，是阿里平頭哥：
1、有了看得見(jiàn)摸得著的領(lǐng)先型產(chǎn)品，特別是玄鐵和含光；
2、有了全棧的芯片生態(tài)；
3、有了大規(guī)模的商用，含光已被應(yīng)用到阿里核心業(yè)務(wù)并通過(guò)阿里云以算力形式開(kāi)放。
阿里造芯成功給行業(yè)的啟示是什么？我認(rèn)為有如下幾點(diǎn)：
1、芯片技術(shù)不是研發(fā)一個(gè)App，心血來(lái)潮是做不成的。
芯片技術(shù)門檻相當(dāng)高，一年半載很難有什么成就。表面上看，含光800是芯片研發(fā)領(lǐng)域的一個(gè)奇跡，平頭哥只用7個(gè)月就完成了含光800的前端設(shè)計(jì)，之后僅了3個(gè)月就成功流片，一般公司往往要經(jīng)歷兩次甚至多次流片才可能成功，平頭哥快速成功顯然不是因?yàn)椤斑\(yùn)氣好”，而是厚積薄發(fā)。
阿里十年來(lái)一直未曾擁有自己的芯片，日益復(fù)雜的阿里生態(tài)對(duì)計(jì)算提出的要求越來(lái)越高，然而工程師每天跟服務(wù)器打交道時(shí)逐步發(fā)現(xiàn)，他們正在觸摸算力的邊界，就像當(dāng)初決定去IOE以強(qiáng)化數(shù)據(jù)庫(kù)底層控制權(quán)一樣，阿里意識(shí)到一定要有自己的芯片，只有擁有自己的芯片才能擁有最極致的算力。
不過(guò)阿里沒(méi)有選擇蠻干，而是步步為營(yíng)，阿里先是投資寒武紀(jì)、深鑒和Barefoot Networks等多家芯片公司，再收購(gòu)中國(guó)大陸唯一擁有自主嵌入式CPU IP Core的公司中天微，有媒體報(bào)道稱馬云已投資中國(guó)大半個(gè)芯片圈，這一過(guò)程花了好些年。在投資收購(gòu)芯片公司外，阿里2017年成立三年投資千億的基礎(chǔ)技術(shù)研究機(jī)構(gòu)達(dá)摩院，人工智能和芯片技術(shù)是其重點(diǎn)研究范疇。而在硬件層面，阿里在服務(wù)器、FPGA以及存儲(chǔ)等領(lǐng)域擁有多年研發(fā)經(jīng)驗(yàn)，此外，平頭哥團(tuán)隊(duì)在體系結(jié)構(gòu)、編譯技術(shù)等領(lǐng)域擁有深厚的技術(shù)儲(chǔ)備。
在軟硬件上都打好底子后，阿里才正式宣布“造芯”。阿里造芯是深思熟慮的結(jié)果，是戰(zhàn)略選擇，不是心血來(lái)潮更不是要蹭熱點(diǎn)。
2、對(duì)的策略，對(duì)的戰(zhàn)術(shù)，對(duì)的時(shí)機(jī)。
不論是PC還是移動(dòng)芯片，發(fā)展都已接近極限。五年前PC衰落，芯片“夠用了”很難再有升級(jí)動(dòng)能，Intel大力轉(zhuǎn)型移動(dòng)；Intel移動(dòng)化尚未成功，手機(jī)市場(chǎng)又進(jìn)入下滑周期，移動(dòng)芯片“夠用了”，智能手機(jī)的瓶頸不再是計(jì)算性能，而是網(wǎng)速、續(xù)航和交互，ARM被軟銀收購(gòu)，2019年第二財(cái)季高通營(yíng)收下降4.6%，芯片巨頭都在尋找新的方向?！?8個(gè)月性能翻番、成本減半”的摩爾定律，失效了。芯片產(chǎn)業(yè)的第三次浪潮是什么？答案很清晰，就是AI以及AI拉動(dòng)的IoT、5G等產(chǎn)業(yè)浪潮。
2018年是一個(gè)非常好的節(jié)點(diǎn)：AI普及的趨勢(shì)，對(duì)算力，對(duì)數(shù)據(jù)能力，對(duì)芯片都提出全新的要求，同時(shí)創(chuàng)造了大量新的應(yīng)用場(chǎng)景，這意味著新玩家有新的機(jī)會(huì)，我們會(huì)看到平頭哥做玄鐵是瞄準(zhǔn)的IoT，含光則是瞄準(zhǔn)了機(jī)器視覺(jué)這一AI強(qiáng)相關(guān)場(chǎng)景，這都體現(xiàn)出差異化競(jìng)爭(zhēng)的思路，而不是去做手機(jī)芯片這樣的毫無(wú)勝算的市場(chǎng)，現(xiàn)在再去做手機(jī)芯片意義不大了。
瞄準(zhǔn)AI和IoT場(chǎng)景是戰(zhàn)術(shù)選擇，2018年入場(chǎng)是時(shí)機(jī)選擇，而在策略上，平頭哥沒(méi)有一上來(lái)就發(fā)布自己的芯片，在含光發(fā)布前先發(fā)布了處理器IP玄鐵710和SoC無(wú)劍平臺(tái)，循序漸進(jìn)。對(duì)的策略、對(duì)的節(jié)奏，對(duì)的時(shí)機(jī)，促成了平頭哥的首戰(zhàn)告捷。
3、全新的普惠模式，是一種戰(zhàn)略選擇。
平頭哥是芯片公司的“新物種”，它不是要做一家賣芯片的公司，做芯片的目的是解決自己?jiǎn)栴}，再將其開(kāi)放出來(lái)實(shí)現(xiàn)技術(shù)普惠，這是一種戰(zhàn)略選擇。
阿里巴巴業(yè)務(wù)場(chǎng)景日益復(fù)雜， 對(duì)算力提出更高的要求，搜索、推薦、視頻分析、城市大腦、金融科技等等AI場(chǎng)景，存量芯片已難以滿足，這是阿里自主造芯的初心。
不過(guò)，只是解決自己的問(wèn)題是不夠的，就像阿里云是將在阿里業(yè)務(wù)場(chǎng)景千錘百煉的各種技術(shù)開(kāi)放一樣，阿里造芯最終同樣會(huì)走普惠路線。
在云棲大會(huì)上，阿里巴巴集團(tuán)董事長(zhǎng)兼CEO張勇在演講時(shí)提到一個(gè)說(shuō)法：“如果說(shuō)大數(shù)據(jù)是石油，算力就是發(fā)動(dòng)機(jī)，它們共同構(gòu)成面向數(shù)字經(jīng)濟(jì)時(shí)代的核心能力。”他的邏輯是：當(dāng)數(shù)據(jù)在數(shù)字經(jīng)濟(jì)時(shí)代以幾何倍數(shù)增加，能夠與之協(xié)同的是同樣幾何倍增的強(qiáng)大算力，讓數(shù)據(jù)被高效使用。而阿里巴巴商業(yè)操作系統(tǒng)正成為數(shù)字經(jīng)濟(jì)時(shí)代的基礎(chǔ)設(shè)施，在這一操作系統(tǒng)中，算力這一發(fā)動(dòng)機(jī)要保持高速運(yùn)轉(zhuǎn)的根本就是有強(qiáng)大的芯片。平頭哥成立的初心就是要讓算力普惠，不論是SoC和IP模式降低芯片設(shè)計(jì)門檻，還是在云端將含光800的算力開(kāi)放出來(lái)，均體現(xiàn)出這樣的理念。
這樣的理念促成了平頭哥獨(dú)特的競(jìng)爭(zhēng)力。PC和移動(dòng)芯片都是“巨頭+巨頭”模式，比如Intel與Windows的“Win-Tel”聯(lián)盟，再比如高通/聯(lián)華科與手機(jī)巨頭間的聯(lián)盟。然而到了IoT時(shí)代這樣的模式很難再奏效了，一方面，只要有能力，巨頭都想做自己的芯片；另一方面，AIoT市場(chǎng)一定是碎片化和強(qiáng)應(yīng)用驅(qū)動(dòng)的，一款芯片賣一年的做法很難再適應(yīng)如此復(fù)雜的芯片需求，芯片一定會(huì)走向面向場(chǎng)景定制和基于軟件定義，芯片公司一時(shí)之間也難以再找到牽手的巨頭，這時(shí)候，平頭哥做芯片基礎(chǔ)設(shè)施“讓天下沒(méi)有難造的芯片”模式就生逢其時(shí)，雖然才面世一年就已展現(xiàn)出強(qiáng)大的生命力。
- 蜜度索驥：以跨模態(tài)檢索技術(shù)助力“企宣”向上生長(zhǎng)
- 美媒聚焦比亞迪“副業(yè)”：電子代工助力蘋果，下個(gè)大計(jì)劃瞄準(zhǔn)AI機(jī)器人
- 微信零錢通新政策：銀行卡轉(zhuǎn)入資金提現(xiàn)免手續(xù)費(fèi)引熱議
- 消息稱塔塔集團(tuán)將收購(gòu)和碩印度iPhone代工廠60%股份 并接管日常運(yùn)營(yíng)
- 蘋果揭秘自研芯片成功之道：領(lǐng)先技術(shù)與深度整合是關(guān)鍵
- 英偉達(dá)新一代Blackwell GPU面臨過(guò)熱挑戰(zhàn)，交付延期引發(fā)市場(chǎng)關(guān)注
- 馬斯克能否成為 AI 部部長(zhǎng)？硅谷與白宮的聯(lián)系日益緊密
- 余承東：Mate70將在26號(hào)發(fā)布，意外泄露引發(fā)關(guān)注
- 無(wú)人機(jī)“黑科技”亮相航展：全球首臺(tái)低空重力測(cè)量系統(tǒng)引關(guān)注
- 賽力斯發(fā)布聲明：未與任何伙伴聯(lián)合開(kāi)展人形機(jī)器人合作
- 賽力斯觸及漲停，汽車整車股盤初強(qiáng)勢(shì)拉升
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。
