寒武紀(jì)招標(biāo)更新（沈陽政府采購網(wǎng)）

招標(biāo)要點：

項目名稱：沈陽市汽車城新型基礎(chǔ)設(shè)施建設(shè)項目-智能計算中心項目；

【資料圖】

項目金額：1.55億元；

交付時間：不晚于2023年9月30日；

項目目標(biāo)：建設(shè)基于國產(chǎn)人工智能加速卡的沈陽汽車智能計算中心算力集群，算力規(guī)模達到100 PetaFLOPS(FP16)支持人工智能訓(xùn)練和推理任務(wù)；

來聊聊寒武紀(jì)中標(biāo)的意義首先，寒武紀(jì)確立了公司在信創(chuàng)市場算力中心的位置。這是一個供應(yīng)地位，意味著公司在未來的發(fā)展?jié)摿薮蟆Ｆ浯危珺端市場并不是唯一的算力市場。G端市場同樣龐大，而且有利于推動先進技術(shù)發(fā)展。再者，國產(chǎn)算力已經(jīng)正式進入YY假設(shè)階段，訂單印證（招標(biāo)數(shù)據(jù)）與業(yè)績的邏輯傳導(dǎo)鏈條已經(jīng)形成。這對于以前公開信息較少的情況來說，這是一個重要的轉(zhuǎn)折。關(guān)于流片方面，我們可以簡單計算一下國內(nèi)產(chǎn)能和馬甲產(chǎn)能的流片情況。今天早上增加了信創(chuàng)的小作文。所以雖然這次中標(biāo)金額小，但是意義重大。

時代概述

以ChatGPT為代表的新的人工智能時代已到來。“我們可以大膽預(yù)測，所有的個人、工業(yè)應(yīng)用都將被這種新的人工智能所改寫。由于計算無所不及，以及算力需求的成倍增長，如到2030年，通用算力將增加10倍，人工智能算力將增加500倍。我們將建設(shè)大量的數(shù)據(jù)中心、人工智能計算中心等ICT基礎(chǔ)設(shè)施，如何降低這些設(shè)施的能耗，也是綠色低碳發(fā)展需要面對的挑戰(zhàn)。”AI芯片相對于GPU能耗占決定優(yōu)勢，目前國內(nèi)能耗最低的是寒武紀(jì)思元系列。

硅基生命進化時代的來臨。

需求指數(shù)級增長

各家巨頭向 GPT4 邁進的時候，需要更多方向上的探索，也將帶來更多的訓(xùn)練側(cè)算力需求。 根據(jù)我們的推算，2023 年-2027 年，全球大模型訓(xùn)練端峰值算力需求量的年復(fù)合增長率有望達到 78.0%，2023 年全球大模型訓(xùn)練端所需全部算力換算成的 A100 芯片總量可能超過 200 萬張。國產(chǎn)替代空間非常巨大，國產(chǎn)算力芯片占比僅僅1%。

AH算力卡明年合計出貨量370萬張， AI服務(wù)器今年增速80%，明年60%。

寒武紀(jì)已經(jīng)解決的問題

1. 通用性

大家一直認(rèn)為寒武紀(jì)AI芯片通用性不如GPU，目前不用擔(dān)心，因為已經(jīng)突破。

寒武紀(jì)研發(fā)設(shè)計的智能芯片是針對人工智能領(lǐng)域?qū)ｉT設(shè)計的芯片，屬于通用型智能芯片，其架構(gòu)和指令集針對人工智能領(lǐng)域中的各類算法和應(yīng)用作了專門優(yōu)化，可高效支持視覺、語音、自然語言處理和傳統(tǒng)機器學(xué)習(xí)等智能處理任務(wù)。與 CPU 、 GPU 相比，智能芯片的能效優(yōu)勢主要集中于智能應(yīng)用且優(yōu)勢明顯。與面向特定的、具體的、相對單一的人工智能算法專門設(shè)計的專用型智能芯片（ ASIC ）相比，通用型智能芯片對各類人工智能技術(shù)具備較好的普適性，可覆蓋的應(yīng)用場景更廣泛。

公司設(shè)計、研發(fā)的通用型智能芯片是針對人工智能領(lǐng)域中的各類算法和應(yīng)用作了專門優(yōu)化，可廣泛支持視覺、語音、自然語言處理、傳統(tǒng)機器學(xué)習(xí)等人工智能應(yīng)用。與面向特定的、具體的、相對單一的人工智能算法專門設(shè)計的專用型智能芯片（ ASIC ）相比，通用型智能芯片對各類人工智能技術(shù)具備較好的普適性，可覆蓋的應(yīng)用場景更廣泛。公司會持續(xù)對芯片底層基礎(chǔ)技術(shù)和新產(chǎn)品進行升級迭代，保持公司技術(shù)在行業(yè)內(nèi)的前瞻性、領(lǐng)先性和核心競爭優(yōu)勢。寒武紀(jì)ASIC通用芯片打破GPU的壟斷，完全可以替代英偉達。

2.流片

現(xiàn)在通過第三方代理的方式已經(jīng)重新再開一遍流片，目前把這個供應(yīng)打通了。后端物理版圖的修改完畢，已經(jīng)審核完畢。已經(jīng)下單，臺積7 納米流片大概需要 4 個月，年底之前能拿回來。陸續(xù)下幾個月訂單，明年年的目標(biāo)是下 7000 片左右，上調(diào)2000片。然后把這些全部拿回國內(nèi)。

一

首先談兩個突破

1 . EDA

7nm的自研EDA來了，EDA是設(shè)計芯片用的軟件系統(tǒng)，EDA越強大，就能設(shè)計越復(fù)雜的芯片，芯片越復(fù)雜，上面的集成電路越多，性能就越好。如果沒有好的EDA軟件，只能設(shè)計小型的、簡單的芯片。這次的7nm首次支持150億門。現(xiàn)在哪怕是外掛的巴龍5000也可以設(shè)計了，麒9000也是擁有153億個門晶體管。世界上首個無人工干預(yù)全自動生成CpU芯片，性能與80486SX相當(dāng)，設(shè)計周期縮短1/1000，是目前GpT-4設(shè)計規(guī)模的4000倍，在5小時內(nèi)驗證測試準(zhǔn)確率>99.999%，在最具權(quán)威人士英偉達黃仁勛認(rèn)為是芯片制造加速計算和Al計算最理想應(yīng)用，老美限制英偉達出囗Al芯片至中國，在這個時間節(jié)點中國最高權(quán)威中科院計算所發(fā)布啟蒙1號給我們傳遞什么信號，這就是卡脖子最有力的反擊，本論文是寒武紀(jì)陳天石團隊與哥哥陳云霽一起嘔心瀝血的成果。

2. 光刻機

目前N方廠（上海）可以n+2 做出7nm工藝。

目前接的有兩家大單。HW麒零990等

HWJ590改版，正在驗證的690，明年的790。

龍x的14 N+2（少量）。

3.軟件

NVD壟斷的CUDA無可匹敵。目前我們國產(chǎn)中科寒武紀(jì)聯(lián)合中科院推進的國產(chǎn)“cuda”正在推進。CUDA雖好，但是大廠現(xiàn)在都在忌憚，已經(jīng)在考慮全部換掉。

寒武紀(jì)自主研發(fā)了基礎(chǔ)系統(tǒng)軟件平臺Cambricon Neuware，生態(tài)完善程度與英偉達相比仍有差距，如果客戶放棄英偉達的卡轉(zhuǎn)向寒武紀(jì)需要付出更多的遷移成本，所以對于寒武紀(jì)來說除了芯片自身的性價比要突出之外還要加上生態(tài)遷移這些隱形成本之后仍具有競爭力，所以現(xiàn)在從去年開始聯(lián)合中軟院中科院全力推進Cambricon Neuware完善。目前看到了非常驚人的效果。針對 59零集群，寒武紀(jì)已經(jīng)優(yōu)化了互聯(lián)技術(shù)，搭載這種針對 59零定制化的這種 Switch 芯片，現(xiàn)在全部搞定。

二

訂單預(yù)測

1. 訓(xùn)練端

大模型應(yīng)用場景比較固定，用 ASIC 能做出來性價比最高的產(chǎn)品。同等算力、同等功耗的前提下，ASIC 能把產(chǎn)品的算力發(fā)揮到極致。其他的架構(gòu)，不管是 GPU，還是 FPGA，本身受限于它的通用性和 FPE 的設(shè)計靈活性，本身成本比較高。量越大，ASIC 的優(yōu)勢越大。

現(xiàn)在國內(nèi)AI服務(wù)器下單占總比5%左右。大概有95%的空間。據(jù)統(tǒng)計AI芯片的國產(chǎn)是占有率僅僅為1%。國家要求60%比例，特別是國資強制要求。統(tǒng)計目前華W占比10%，寒武15%，海光3%其他等加起來30%左右。對民企沒有強制要求，比例一般控制在40%到50%。

現(xiàn)在下單N卡要一年以上大廠等不及，而寒武紀(jì)明年一季度就可以交貨。現(xiàn)在騰訊訂單是100億左右基本上寒武紀(jì)拿一大半。由于大廠與HW競爭關(guān)系，所以大部分給了寒武。阿里因為之前沒有測試59零，現(xiàn)在拿過去測試反饋非常好。準(zhǔn)備下單具體多少還不明確，按騰訊的量大概也是百億左右。由于競爭關(guān)系，訂單的一大半跟騰訊一樣，還是要給寒武紀(jì)。基本上HW拿的非常少，主要是HW自用不支持32，兼容性不如寒武紀(jì)。大廠們主要還是在 A100 上跑，他們實際上強烈國產(chǎn)替代的需求，等他們把模型搞的差不多了，他們還是要回頭來做國產(chǎn)替代，他們也怕受到英偉達影響。

京東目前在測試的主要是370，目前370非常成熟可以達到A100的70%性能，另外拿有少量的59零測試。京東的訂單預(yù)測有50到80億左右，寒武紀(jì)估計能拿到20%到50%訂單。抖音50億，正在驗證。如果通過可以拿到40%份額。快手大概30億，目前已經(jīng)預(yù)訂。美團正在驗證。百度驗證通過，大大概30億，昆侖芯不行，全部要用寒武紀(jì)，可以拿到80%份額。滴滴驗證通過，大概10到15億，可以拿80%份額。商湯科技8到12億，可以拿到30%份額。科大訊飛5億左右，拿到20%份額。其他的滴滴等。總共下來差不多有300億。

1.國資

目前有大概20家國資在驗證思元370反饋非常好，后面會繼續(xù)驗證59零。運營商目前電信驗證通過，并且已經(jīng)下單5個億明年會追加30億訂單。移動正在驗證59零與370，正在反饋，370效果非常好，59零還沒有反饋。聯(lián)通目前只拿了500張370，目前還沒有反饋，后面我們會跟進。國資還有其他細(xì)分行業(yè)等，保守差不多150億。

2.信創(chuàng)

信創(chuàng)通常云服務(wù)中心、超算中心、智算中心方面不說了，這個訂單非常穩(wěn)定，每年都有50%增長。這個體量不是很大15億到20億。

另外未來智算中心每年大概有10個左右，各地開始放量，可以每年穩(wěn)定給寒武紀(jì)提供30到50億營收，國內(nèi)智算只有寒武紀(jì)能做。

3.金融

金融方面目前平安在驗證，反饋非常好。后面的平安好醫(yī)生大概率也是會用。平安體量比較大，大概50到70億左右，寒武紀(jì)保守可以拿到40%份額。由于59零沒有多少卡，目前招行與四大行在測試370，反饋無疑是沒有問題。人壽太保太平，測試370，反饋沒有問題，后期會不會用還不清楚。金融加起來保守也有100億。

4.醫(yī)療

醫(yī)療目前測試的還是不多，醫(yī)療主要是看大模型應(yīng)用，這個可以多看下科大訊飛。目前醫(yī)療有少量的推理卡出貨，后面我們會繼續(xù)跟近。

5.汽車

L2+~L4全系列芯片布局。寒武紀(jì)行歌未來產(chǎn)品布局很廣，將覆蓋L2+~L4全系列芯片組合，也將提供覆蓋不同檔位算力需求的計算平臺，為不同客戶提供強大而靈活的算力選擇。目前跟寧德合作，后面會穩(wěn)定供應(yīng)。目前看不到量的多少。

6.國防

別人戰(zhàn)斗力計算速度比你快0.1秒，勝負(fù)已出。目前正在投標(biāo)。

推理端

所謂的強 Ai 肯定不是靠堆A100＋堆算法＝精度，否則算力再強，本質(zhì)也只是個精致的機器，通用強 ai 應(yīng)該像人類一樣，只需要少許能量就足以維持智力，因為智力不靠規(guī)模，靠結(jié)構(gòu)，結(jié)構(gòu)決定功能，人腦不是最大的，確是結(jié)構(gòu)最優(yōu)的，除非有人設(shè)計出一種邏輯鏈，能讓 ai 產(chǎn)生利我機制， ai 在這種利我最大化的動力驅(qū)使下，肯定會進行無監(jiān)督學(xué)習(xí)，進化出各種能力，從而最大化利我，越利我越強大，越強大越利我，強大與利我是邏輯鏈上環(huán)環(huán)相扣的正相關(guān)。這個時候就用到推理了。

這就是我之前一直說的人工智能的第二階段，推理端。

目前大模型處于一個爆發(fā)式的階段，目前主要的算力需求還是在訓(xùn)練端，3 年后整個大模型趨于飽和 or 趨于穩(wěn)定之后，整個算力需求應(yīng)該會轉(zhuǎn)向推理端，推理端算力需求會指數(shù)級上升。我本人是看好推理端算力，目前寒武紀(jì)解決完 2 代訓(xùn)練產(chǎn)品后，后面的重心應(yīng)該再向推理端轉(zhuǎn)。

在人工智能推理中，已經(jīng)訓(xùn)練好的模型會被應(yīng)用到新的數(shù)據(jù)集上，以進行分類、檢測、識別等任務(wù)。在這個過程中，需要進行的計算量較小，但需要在極短的時間內(nèi)完成計算，以實現(xiàn)實時性的要求。因此，需要具備低延遲的計算能力，比如使用專門的ASIC芯片或者針對人工智能推理優(yōu)化的GPU。ASIC占絕對優(yōu)勢。

目前推理芯片市場規(guī)模相對較大，據(jù)寶利研究員預(yù)計，到2025年訓(xùn)練芯片市場規(guī)模為494億元，而推理芯片市場規(guī)模將達到1191億元，未來推理芯片的市場是訓(xùn)練芯片市場的幾十倍。未來五年推理芯片市場規(guī)模增速將遠大于訓(xùn)練芯片，而GPU 芯片并不擅長推理任務(wù)，因此未來我們的寒武紀(jì)AI推理芯片的彎道超車機會顯現(xiàn)。

國產(chǎn)替代是一個趨勢，因為現(xiàn)在大環(huán)境在這里。7月下半年國產(chǎn)替代新起點。

以上數(shù)據(jù)都是保守預(yù)測，有補充的歡迎指教。

上次被刪帖。這次重新發(fā)下

$寒武紀(jì)-U(SH688256)$ $科大訊飛(SZ002230)$ $英偉達(NVDA)$

關(guān)鍵詞：