這兩年只要聊到 AI 基礎(chǔ)設(shè)施繞不開(kāi)的一個(gè)議題就是“國(guó)產(chǎn)算力到底能不能頂上去”。我在不少客戶的機(jī)房和選型會(huì)里泡過(guò)從最開(kāi)始大家拿著加速卡跑跑小模型試試水到后來(lái)滿世界找資源訓(xùn)練千億參數(shù)模型整條產(chǎn)業(yè)鏈的心態(tài)已經(jīng)發(fā)生了明顯變化。今天這篇就專(zhuān)門(mén)做一次競(jìng)品分析不吹不黑從份額替代、供給瓶頸和生態(tài)競(jìng)爭(zhēng)這三個(gè)最核心的維度把國(guó)產(chǎn) AI 算力芯片目前的真實(shí)格局拆開(kāi)來(lái)講。如果你正在做技術(shù)選型、資源規(guī)劃或者單純想了解國(guó)產(chǎn)加速卡的底細(xì)這篇文章會(huì)給你一套可用的分析框架和排查思路。我會(huì)盡可能用從業(yè)者之間的語(yǔ)言把那些公開(kāi)文檔里不會(huì)寫(xiě)清楚的“暗坑”和實(shí)際經(jīng)驗(yàn)一并放出來(lái)。1. 競(jìng)爭(zhēng)格局表面百花齊放實(shí)際已經(jīng)分出三個(gè)梯隊(duì)1.1 市場(chǎng)參與者全景掃描國(guó)產(chǎn) AI 算力芯片這個(gè)賽道參與者數(shù)量在過(guò)去三年暴增但真正有規(guī)模落地案例的其實(shí)屈指可數(shù)。我們從產(chǎn)品形態(tài)和定位上可以分三類(lèi)第一類(lèi)是通用訓(xùn)練加速卡面向大模型預(yù)訓(xùn)練、微調(diào)這類(lèi)重負(fù)載場(chǎng)景性能對(duì)標(biāo)主流國(guó)際產(chǎn)品但架構(gòu)完全自主。這類(lèi)產(chǎn)品通常采用高帶寬顯存、先進(jìn)封裝支持超大規(guī)模集群互聯(lián)是當(dāng)前政企大單的主力。第二類(lèi)是推理加速卡專(zhuān)門(mén)服務(wù)大模型在線推理、AIGC 應(yīng)用、傳統(tǒng) CV/NLP 推理等場(chǎng)景不追求極限訓(xùn)練吞吐而是更關(guān)注單卡并發(fā)能力、時(shí)延、功耗和性價(jià)比。這類(lèi)產(chǎn)品在互聯(lián)網(wǎng)公司內(nèi)部的推薦系統(tǒng)、智能客服、代碼助手等業(yè)務(wù)里滲透很快。第三類(lèi)是邊緣/端側(cè) NPU通常部署在智算一體機(jī)、智能攝像頭、機(jī)器人等場(chǎng)景算力密度要求不高主打低功耗和軟硬一體。這類(lèi)芯片技術(shù)門(mén)檻相對(duì)低但市場(chǎng)空間分散競(jìng)爭(zhēng)最混亂。從公開(kāi)信息和企業(yè)調(diào)研的交叉驗(yàn)證來(lái)看國(guó)內(nèi)真正能量產(chǎn)供貨、支撐千卡級(jí)集群訓(xùn)練的芯片目前只有少數(shù)幾家。其他大量創(chuàng)業(yè)公司還停留在送測(cè)、適配階段無(wú)法形成有效供給?？梢哉f(shuō)市場(chǎng)已經(jīng)渡過(guò)了“講故事”的階段進(jìn)入了“拼交付”的淘汰期。1.2 份額格局的分化信號(hào)我們看 2024 到 2025 年的公開(kāi)招標(biāo)和中標(biāo)數(shù)據(jù)一個(gè)非常明顯的趨勢(shì)是推理芯片的國(guó)產(chǎn)化率已經(jīng)接近甚至超過(guò)五成而訓(xùn)練芯片的國(guó)產(chǎn)化率仍然不足兩成。這說(shuō)明“份額替代”并不是同步發(fā)生的而是按“易到難”的路徑遞進(jìn)。最容易替代的是那些生態(tài)依賴淺、模型規(guī)模小、框架耦合度低的應(yīng)用。例如圖像分類(lèi)、目標(biāo)檢測(cè)、經(jīng)典 NLP 任務(wù)這些場(chǎng)景模型結(jié)構(gòu)固定算子相對(duì)標(biāo)準(zhǔn)用國(guó)產(chǎn)芯片替換時(shí)只需要重新編譯和微調(diào)精度。而大模型訓(xùn)練場(chǎng)景因?yàn)樯婕胺植际讲⑿胁呗浴@存管理、斷點(diǎn)續(xù)訓(xùn)、專(zhuān)家并行等復(fù)雜機(jī)制對(duì)芯片廠商的軟件棧和集群穩(wěn)定性要求極高替代成本明顯高一個(gè)量級(jí)。由此形成了很清晰的梯隊(duì)格局第一梯隊(duì)擁有自研軟件棧完整閉環(huán)、能夠交付千卡集群訓(xùn)練方案的頭部玩家。第二梯隊(duì)產(chǎn)品和落地案例具備一定規(guī)模但在高性能計(jì)算、集群互聯(lián)等關(guān)鍵能力上有明顯短板。第三梯隊(duì)仍以板卡或 IP 授權(quán)形式存在實(shí)際量產(chǎn)和生態(tài)整合能力存疑。我自己的判斷是未來(lái)兩年這個(gè)格局會(huì)繼續(xù)分化第一梯隊(duì)和第二梯隊(duì)的差距會(huì)拉大第三梯隊(duì)大部分會(huì)被并購(gòu)或邊緣化。原因后面深入分析。2. 份額替代路徑從可用到好用替代順序有跡可循2.1 為什么替代不了一蹴而就很多不在一線的人對(duì)芯片替代有一個(gè)誤解覺(jué)得只要單卡跑分接近國(guó)際產(chǎn)品就能直接換上去。但實(shí)際部署中你會(huì)遇到一連串問(wèn)題通信庫(kù)是否支持大規(guī)模集合通信框架補(bǔ)丁是否跟上了最新版本的 PyTorch混合精度下的數(shù)值對(duì)齊是否沒(méi)問(wèn)題算子缺失時(shí)能不能及時(shí)補(bǔ)上這些問(wèn)題決定了芯片是“能跑”還是“好用”。我在某個(gè)單位測(cè)過(guò)一款國(guó)產(chǎn)芯片單卡推理性能在當(dāng)時(shí)確實(shí)達(dá)到了國(guó)際主流產(chǎn)品的九成。但等到做 64 卡分布式推理服務(wù)時(shí)并行拆分的效率驟降最終整系統(tǒng)吞吐不到國(guó)際方案的七成。問(wèn)題不在單卡算力而是芯片互聯(lián)的集合通信延遲和算子庫(kù)多卡擴(kuò)展性沒(méi)有跟上。這給我們提了個(gè)醒評(píng)估替代潛力必須從“系統(tǒng)視角”看而不是只盯著芯片本身。所以替代實(shí)際是分層的第一層應(yīng)用層替代。程序按原樣跑在國(guó)產(chǎn)芯片上通常需要進(jìn)行代碼級(jí)適配。第二層框架層替代。利用國(guó)產(chǎn)芯片廠商提供的框架補(bǔ)丁或定制版 PyTorch/TensorFlow。第三層引擎層替代。使用廠商自研的編譯器與運(yùn)行時(shí)將計(jì)算圖自動(dòng)調(diào)度到底層硬件。第四層系統(tǒng)層替代。從集群調(diào)度、通信庫(kù)、存儲(chǔ)、容錯(cuò)機(jī)制全面一體化設(shè)計(jì)。現(xiàn)在能做到第四層的廠商極少大部分只是停留在第二層到第三層之間。這也是很多用戶抱怨“支持了但不絲滑”的根本原因。2.2 最佳實(shí)踐的替代切入點(diǎn)結(jié)合我們過(guò)去實(shí)操的多個(gè)遷移項(xiàng)目我總結(jié)了三條有效的替代路徑路徑一從在線推理切入。推理類(lèi)任務(wù)模型結(jié)構(gòu)固定、交互邏輯清晰不需要龐大的分布式訓(xùn)練集群。而且推理業(yè)務(wù)通常有業(yè)務(wù)側(cè)降級(jí)預(yù)案即使芯片出問(wèn)題也不會(huì)造成全局業(yè)務(wù)中斷。先把非核心推理業(yè)務(wù)遷過(guò)去攢運(yùn)維經(jīng)驗(yàn)是最穩(wěn)妥的做法。路徑二從中小模型微調(diào)切入。百億參數(shù)以下的模型微調(diào)對(duì)顯存、通信、框架擴(kuò)展性的要求相對(duì)溫和。很多國(guó)產(chǎn)芯片支持 lora、qlora 這類(lèi)參數(shù)高效微調(diào)算法遷移成本遠(yuǎn)低于從頭預(yù)訓(xùn)練。把微調(diào)跑通了再逐步擴(kuò)展到增量預(yù)訓(xùn)練最后再挑戰(zhàn)全量預(yù)訓(xùn)練。路徑三從“新業(yè)務(wù)場(chǎng)景”切入而不是存量替換。如果你在做一個(gè)全新的 AI 應(yīng)用沒(méi)有歷史包袱用國(guó)產(chǎn)芯片構(gòu)建整個(gè)技術(shù)棧反而比遷移舊系統(tǒng)更平滑。很多互聯(lián)網(wǎng)大廠和智算中心新建項(xiàng)目現(xiàn)在都是首選國(guó)產(chǎn)方案這也是份額替代最快的增長(zhǎng)點(diǎn)。我再?gòu)?qiáng)調(diào)一個(gè)反面教訓(xùn)不要在沒(méi)有充分驗(yàn)證前把核心訓(xùn)練任務(wù)“突襲式”遷移到國(guó)產(chǎn)平臺(tái)。一旦遇到隱性故障例如通信超時(shí)、顯存泄漏、浮點(diǎn)差異累積排查成本極高很可能會(huì)導(dǎo)致項(xiàng)目延期甚至整體失敗。替代應(yīng)該像切香腸一小塊一小塊穩(wěn)定落地。3. 供給瓶頸卡脖子的不只是光刻機(jī)3.1 產(chǎn)能與良率約束國(guó)產(chǎn) AI 芯片面臨的供給瓶頸很多人第一反應(yīng)是先進(jìn)制程受限。這個(gè)確實(shí)存在但并不是唯一的限制。實(shí)際上在晶圓制造之外先進(jìn)封裝和 HBM 存儲(chǔ)也是兩座大山。以當(dāng)前最強(qiáng)的國(guó)產(chǎn)訓(xùn)練芯片為例它們普遍采用較高規(guī)格的 CoWoS 2.5D 封裝技術(shù)需要將計(jì)算裸片和多個(gè)高帶寬顯存堆疊集成在同一基板上。這種封裝工藝產(chǎn)能原本就緊張國(guó)內(nèi)具備量產(chǎn)能力的封裝廠數(shù)量有限交期一度拉長(zhǎng)到半年以上。再加上高帶寬顯存主要依賴少數(shù)幾個(gè)海外供應(yīng)商供需缺口非常明顯。這意味著即使設(shè)計(jì)端完全自主供應(yīng)鏈的任何一環(huán)波動(dòng)比如某個(gè)基板材料缺貨或者某種高頻 PCB 型號(hào)停產(chǎn)都會(huì)直接影響整卡交付。我們?cè)诳蛻繇?xiàng)目中就遇到過(guò)因?yàn)榉庋b基板臨時(shí)缺料導(dǎo)致整批訂單延誤的情況那種等待的滋味非常難受。良率方面越大的計(jì)算核心良率挑戰(zhàn)越大。GPU 類(lèi)芯片面積動(dòng)輒 800 平方毫米以上在現(xiàn)有工藝條件下的良率本就不高設(shè)計(jì)上哪怕存在一個(gè)熱密度分布不均的模塊也會(huì)導(dǎo)致成品率進(jìn)一步下滑。多數(shù)國(guó)產(chǎn)芯片廠商通過(guò)多芯片模塊化互聯(lián)來(lái)規(guī)避對(duì)大裸片的依賴但這又引入了額外的封裝復(fù)雜度和功耗開(kāi)銷(xiāo)是另一個(gè)需要權(quán)衡的問(wèn)題。3.2 供應(yīng)彈性和利潤(rùn)悖論從產(chǎn)業(yè)經(jīng)濟(jì)學(xué)的角度來(lái)看芯片供給瓶頸還有一個(gè)無(wú)形的因素利潤(rùn)與產(chǎn)能投資的剪刀差。訓(xùn)練芯片制造成本高企但客戶壓價(jià)能力很強(qiáng)尤其是大單集采時(shí)單價(jià)甚至可能被壓至成本線附近。如果單芯片毛利不夠廠商就很難持續(xù)在先進(jìn)封裝和測(cè)試產(chǎn)線上加大投入供給彈性自然受限。這里存在一個(gè)動(dòng)態(tài)循環(huán)量越小邊際成本越高價(jià)格難降又反過(guò)來(lái)限制放量。解決這個(gè)問(wèn)題的關(guān)鍵一是靠大規(guī)模標(biāo)準(zhǔn)化產(chǎn)品攤薄成本二是靠軟件和服務(wù)收入形成第二曲線。目前國(guó)內(nèi)還沒(méi)有哪個(gè)廠商真正跑通“硬件虧錢(qián)、軟件賺錢(qián)”的模式大家都在硬件毛利和生態(tài)投入之間艱難尋找平衡。我建議關(guān)注國(guó)產(chǎn)算力市場(chǎng)的朋友不要只盯芯片發(fā)布會(huì)上的峰值算力參數(shù)更應(yīng)該關(guān)注每個(gè)季度“真實(shí)出貨量”和“可持續(xù)現(xiàn)金流”。一個(gè)不能自我造血的芯片公司哪怕性能再亮眼也難支撐長(zhǎng)期演進(jìn)和售后技術(shù)團(tuán)隊(duì)建設(shè)。4. 生態(tài)競(jìng)爭(zhēng)決定勝負(fù)的“軟件護(hù)城河”4.1 從 CUDA 慣性到國(guó)產(chǎn)軟件棧的現(xiàn)狀做技術(shù)選型的人都清楚AI 芯片的硬件只是骨架軟件生態(tài)才是血肉。生態(tài)環(huán)境決定了開(kāi)發(fā)者的遷移成本、運(yùn)行效率、調(diào)試體驗(yàn)和長(zhǎng)期演進(jìn)能力。然而對(duì)于國(guó)產(chǎn)芯片來(lái)說(shuō)最大的競(jìng)爭(zhēng)阻力不是性能而是用戶對(duì)成熟生態(tài)的舒適依賴。國(guó)際主流的 GPU 計(jì)算生態(tài)已經(jīng)非常成熟CUDA 加上其上層的各類(lèi)算子庫(kù)、通信庫(kù)、深度學(xué)習(xí)框架擴(kuò)展形成了硬性習(xí)慣。很多算法工程師寫(xiě)代碼時(shí)根本不用刻意考慮底層算力默認(rèn)所有算數(shù)都是開(kāi)箱即用的。國(guó)產(chǎn)芯片如果只提供“兼容層”或“翻譯層”在性能和功能完整性上很容易打折扣。如果提供自研原生的編程模型又面臨開(kāi)發(fā)者學(xué)習(xí)成本和工具鏈不全的問(wèn)題。目前國(guó)產(chǎn)芯片廠商的軟件棧路線基本分為兩種一種是“兼容派”。盡量兼容現(xiàn)有生態(tài)讓原有程序少改甚至不改就能運(yùn)行。優(yōu)點(diǎn)是遷移成本低缺點(diǎn)是性能往往落后于原生方案且對(duì)復(fù)雜新特性的支持滯后。這種路線適合快速搶占傳統(tǒng)推理和中小訓(xùn)練份額。另一種是“原生派”。構(gòu)建自有的編程語(yǔ)言、編譯器、算子庫(kù)和通信框架做深度優(yōu)化。優(yōu)點(diǎn)是能夠充分挖掘硬件潛力長(zhǎng)期上限高但開(kāi)發(fā)者需要重新學(xué)習(xí)和適配前期推廣困難。適合有平臺(tái)型大客戶、敢于做技術(shù)改造的關(guān)鍵領(lǐng)域。從我實(shí)際接觸到的項(xiàng)目來(lái)看市面上產(chǎn)品化程度高的幾款國(guó)產(chǎn)芯片都采用了混合策略對(duì)外盡可能兼容主流生態(tài)的接口對(duì)內(nèi)建立了自己的編譯優(yōu)化層。差異主要體現(xiàn)在兼容的徹底性、算子覆蓋率和集群調(diào)動(dòng)能力上。4.2 生態(tài)競(jìng)爭(zhēng)的核心指標(biāo)拆解如果要用一套可量化的指標(biāo)去評(píng)價(jià)芯片生態(tài)競(jìng)爭(zhēng)力我會(huì)重點(diǎn)關(guān)注四件事算子覆蓋率和精度對(duì)齊度。給定一個(gè)常用的視覺(jué)/語(yǔ)言模型跑在國(guó)產(chǎn)芯片上是否能夠成功編譯有多少算子需要降級(jí)到自定義實(shí)現(xiàn)FP16/BF16 結(jié)果與參考實(shí)現(xiàn)之間的誤差是否在合理范圍。這個(gè)指標(biāo)直接決定了模型的“開(kāi)箱即用”程度?？蚣苓m配的版本滯后度。當(dāng) PyTorch 發(fā)布新版本后國(guó)產(chǎn)芯片的適配補(bǔ)丁多久能跟上如果滯后超過(guò)一個(gè)季度就意味著開(kāi)發(fā)者無(wú)法使用最新的模型結(jié)構(gòu)和訓(xùn)練技巧這在快速迭代的大模型時(shí)代幾乎是致命的。多卡互聯(lián)效率。千卡集群訓(xùn)練時(shí)集合通信的擴(kuò)展效率是否隨卡數(shù)增加保持線性或近似線性增長(zhǎng)。真實(shí)測(cè)試中很多國(guó)產(chǎn)芯片在 128 卡以內(nèi)表現(xiàn)不錯(cuò)但擴(kuò)展到 512 卡以上通信瓶頸就變得非常明顯。調(diào)試和診斷工具的完整度。包括性能分析器、顯存分析工具、算子耗時(shí)剖析、故障定位工具等。這些工具對(duì)生產(chǎn)級(jí)系統(tǒng)至關(guān)重要但又容易被忽視。沒(méi)有一套好用的性能分析工具開(kāi)發(fā)者在排查性能問(wèn)題時(shí)就像蒙眼開(kāi)車(chē)效率極低。從我們實(shí)際評(píng)測(cè)的數(shù)據(jù)來(lái)看頭部國(guó)產(chǎn)芯片在算子覆蓋率上已經(jīng)可以達(dá)到常用模型需求覆蓋九成以上精度對(duì)齊也能控制在可接受的誤差范圍內(nèi)。但在多卡互聯(lián)效率和工具鏈完善度上與國(guó)際主流還有明顯差距。這也是當(dāng)前生態(tài)競(jìng)爭(zhēng)中最值得發(fā)力的部分。4.3 平臺(tái)治理與生態(tài)撕裂風(fēng)險(xiǎn)這里我還想提一個(gè)行業(yè)層面的隱憂不同國(guó)產(chǎn)芯片之間的生態(tài)是碎片化的。每家公司都有自己的底層工具鏈編程語(yǔ)言和加速接口互不相同導(dǎo)致同一個(gè)算法要維護(hù)多個(gè)版本。對(duì)于開(kāi)發(fā)者而言如果每個(gè)國(guó)產(chǎn)平臺(tái)都得重寫(xiě)一遍底層優(yōu)化代碼那么生態(tài)永遠(yuǎn)做不大。真正的生態(tài)爆發(fā)點(diǎn)應(yīng)該是出現(xiàn)一個(gè)“公共抽象層”類(lèi)似于 Linux 內(nèi)核為各種硬件架構(gòu)提供的統(tǒng)一接口?，F(xiàn)在已經(jīng)有一些開(kāi)源項(xiàng)目試圖扮演這個(gè)角色例如通過(guò)編譯器層把深度學(xué)習(xí)模型統(tǒng)一表示再分發(fā)給不同后端。但由于各芯片廠商的商業(yè)利益和硬件差異推進(jìn)速度并不理想。我認(rèn)為未來(lái)的競(jìng)爭(zhēng)一定會(huì)走向“平臺(tái)級(jí)”的較量。一家芯片公司如果只賣(mài)硬件沒(méi)有把開(kāi)發(fā)者體驗(yàn)、開(kāi)源社區(qū)治理、ISV 合作體系做起來(lái)最終只會(huì)在政企定制單中打轉(zhuǎn)很難進(jìn)入互聯(lián)網(wǎng)規(guī)?；逃玫闹鲬?zhàn)場(chǎng)。5. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄5.1 模型遷移后性能不達(dá)預(yù)期這是我在各種國(guó)產(chǎn)算力遷移項(xiàng)目中遇到最多的問(wèn)題。模型能跑吞吐和時(shí)延卻遠(yuǎn)不如預(yù)期用戶第一反應(yīng)往往是芯片算力不夠但實(shí)際排查下來(lái)大多數(shù)原因集中在三方面一是算子未融合。很多國(guó)產(chǎn)框架對(duì)計(jì)算圖的優(yōu)化不夠激進(jìn)小算子逐個(gè)啟動(dòng)內(nèi)核啟動(dòng)開(kāi)銷(xiāo)被過(guò)度放大尤其在卷積和注意力這類(lèi)頻繁調(diào)用小算子的模型中表現(xiàn)很明顯。排查方法是用性能分析工具看內(nèi)核耗時(shí)占比如果空閑等待和調(diào)度耗時(shí)過(guò)高可以嘗試開(kāi)啟算子融合策略或者手動(dòng)將某些小算子替換為稀疏注意力融合調(diào)用。二是數(shù)據(jù)搬運(yùn)瓶頸。模型反復(fù)在顯存和片外存儲(chǔ)間搬移中間數(shù)據(jù)計(jì)算核心長(zhǎng)期空閑。這種情況在超大模型推理中很常見(jiàn)。解決思路是調(diào)整算子融合策略、使用持久化 kernel 進(jìn)行在線計(jì)算或者減少中間結(jié)果的落盤(pán)頻率。三是多進(jìn)程干擾。很多國(guó)產(chǎn)芯片在單機(jī)多卡場(chǎng)景下如果每個(gè)進(jìn)程的 CPU 綁定、內(nèi)存分配、PCIe 通道沒(méi)有手工規(guī)劃很容易出現(xiàn)資源爭(zhēng)搶導(dǎo)致吞吐嚴(yán)重下降。建議先做單進(jìn)程單卡基線測(cè)試再逐步增加進(jìn)程數(shù)看性能曲線是否平滑。5.2 分布式訓(xùn)練出現(xiàn)卡死或掉卡另一個(gè)高頻現(xiàn)場(chǎng)是訓(xùn)練任務(wù)跑了幾個(gè)小時(shí)后突然卡死或者某些計(jì)算節(jié)點(diǎn)從集群中被標(biāo)記為“失聯(lián)”。這種情況在國(guó)產(chǎn)大集群中尤其常見(jiàn)原因是多方面的。一般排查第一步是檢查日志中的通信超時(shí)記錄確認(rèn)是網(wǎng)絡(luò)問(wèn)題還是節(jié)點(diǎn)僵死。如果是網(wǎng)絡(luò)問(wèn)題常見(jiàn)原因是交換機(jī)的隊(duì)列緩存不足或者是網(wǎng)卡和交換機(jī)的自動(dòng)協(xié)商異常。很多團(tuán)隊(duì)在組網(wǎng)時(shí)使用了舊型號(hào)交換機(jī)和新型高速網(wǎng)卡混搭子網(wǎng) MTU 配置不一致就會(huì)觸發(fā)偶發(fā)性的丟包和重傳風(fēng)暴。如果是計(jì)算節(jié)點(diǎn)僵死則要注意是否為散熱和供電問(wèn)題。AI 加速卡的功率密度極高若機(jī)房空調(diào)設(shè)計(jì)余量不足在夏季高溫時(shí)段節(jié)點(diǎn)容易溫度過(guò)高觸發(fā)保護(hù)性降頻甚至死機(jī)。機(jī)房運(yùn)維監(jiān)測(cè)數(shù)據(jù)要和訓(xùn)練日志比對(duì)而不是單獨(dú)看某一項(xiàng)指標(biāo)。從我的經(jīng)驗(yàn)來(lái)說(shuō)國(guó)產(chǎn)芯片的驅(qū)動(dòng)和固件線更新速度快偶爾會(huì)有未發(fā)版本的隱藏更新建議在訓(xùn)練前先做一次 24 小時(shí)壓力測(cè)試檢查穩(wěn)定性和溫度曲線確認(rèn)沒(méi)有問(wèn)題再跑長(zhǎng)任務(wù)。有些問(wèn)題在單卡測(cè)試中根本不會(huì)暴露只有在多卡滿負(fù)載持續(xù)運(yùn)行后才顯現(xiàn)出來(lái)。5.3 算子缺失或精度不一致的處置策略算子庫(kù)覆蓋不全是所有國(guó)產(chǎn)替代中必然要面對(duì)的問(wèn)題。我的建議是先區(qū)分是缺算子還是算子精度不對(duì)。缺算子時(shí)最簡(jiǎn)單的方法是回退到通用實(shí)現(xiàn)。通常框架會(huì)有一個(gè)開(kāi)關(guān)允許使用參考實(shí)現(xiàn)或自動(dòng)生成的低效內(nèi)核。這種方式可以保證功能完整但性能會(huì)明顯下降。這時(shí)候可以找廠商爭(zhēng)取定制內(nèi)核或者用組合算子去推導(dǎo)等價(jià)表達(dá)。比如某些激活函數(shù)和歸一化的組合可以通過(guò)修改計(jì)算圖融合成更底層運(yùn)算既能避開(kāi)缺失算子還可能獲得更好的并行效率。精度不一致的情況更微妙。有時(shí)模型訓(xùn)練結(jié)果會(huì)比國(guó)際平臺(tái)差并不是芯片硬件有問(wèn)題而是默認(rèn)的數(shù)值累加順序和近似算法有差異。遇到這種情況建議逐層比較激活值和梯度值定位差異的源頭。多數(shù)時(shí)候調(diào)整混合精度策略或者修改歸一化層的實(shí)現(xiàn)方式就能解決問(wèn)題。如果差異一直無(wú)法控制就要檢查是否有非確定性算法參與比如某些原子操作在多線程下順序不可控這類(lèi)問(wèn)題可以通過(guò)固定隨機(jī)種子和確定性算子開(kāi)關(guān)來(lái)規(guī)避。5.4 選型決策速查表評(píng)估維度優(yōu)先考察項(xiàng)注意事項(xiàng)單卡性能FLOPs、內(nèi)存帶寬、TDP、顯存容量峰值指標(biāo)需結(jié)合真實(shí)模型驗(yàn)證不能只看紙面參數(shù)集群能力多卡通信帶寬、集合通信庫(kù)效率、千卡穩(wěn)定度要求廠商提供真實(shí)多卡測(cè)試報(bào)告并做現(xiàn)場(chǎng)壓測(cè)軟件生態(tài)算子覆蓋率、框架適配版本、調(diào)試工具完整性用目標(biāo)業(yè)務(wù)模型做遷移測(cè)試確認(rèn)所有算子覆蓋供應(yīng)鏈穩(wěn)定性芯片交付周期、封裝產(chǎn)能、存儲(chǔ)資源供給情況關(guān)注供應(yīng)商的良率穩(wěn)定性和長(zhǎng)期供貨承諾避免斷供風(fēng)險(xiǎn)服務(wù)能力本地技術(shù)支持團(tuán)隊(duì)規(guī)模、響應(yīng)時(shí)效、定制能力建議在本地部署環(huán)境中放入開(kāi)發(fā)協(xié)作流程實(shí)習(xí)感受響應(yīng)速度長(zhǎng)期演進(jìn)芯片架構(gòu)代際規(guī)劃、軟件棧路線圖、社區(qū)活躍度看開(kāi)源版本更新頻率和開(kāi)發(fā)者反饋處理的公開(kāi)記錄6. 格局分化之后我們?cè)撛趺催x擇說(shuō)回到最開(kāi)始的那個(gè)問(wèn)題國(guó)產(chǎn) AI 算力芯片能不能用我的答案是能但有邊界、有順序、有節(jié)奏。從我個(gè)人的實(shí)際部署經(jīng)驗(yàn)看如果是推理型業(yè)務(wù)、中小模型微調(diào)、新興場(chǎng)景的技術(shù)棧建設(shè)現(xiàn)在國(guó)產(chǎn)芯片已經(jīng)具備較強(qiáng)的競(jìng)爭(zhēng)力只要隊(duì)伍里有一兩個(gè)對(duì)底層工具鏈?zhǔn)煜さ娜送耆梢栽跀?shù)月內(nèi)完成平滑落地。如果是要沖擊大規(guī)模預(yù)訓(xùn)練、復(fù)雜多模態(tài)大模型集群則需要更加謹(jǐn)慎地評(píng)估軟件棧成熟度并做好雙軌并行一定時(shí)間的準(zhǔn)備。最后再分享一個(gè)小技巧不管選擇哪一家國(guó)產(chǎn)方案一定要在合同里明確“持續(xù)集成保障”。要求廠商在新版本框架發(fā)布后的一定周期內(nèi)提供適配補(bǔ)丁并將算子覆蓋率指標(biāo)寫(xiě)進(jìn) SLA。沒(méi)有這種契約層面的約束生態(tài)承諾很容易變成一紙空文到實(shí)際使用中就會(huì)吃大苦頭。芯片的競(jìng)爭(zhēng)從來(lái)不是一瞬間的勝負(fù)而是長(zhǎng)期耐心和工程能力的較量。當(dāng)前格局遠(yuǎn)未終局生態(tài)分化的故事才剛剛開(kāi)始。