Suzhou Outuo Lifting Technology Co., Ltd
DeepSeek的爆火出圈為國產芯片同時帶來了時機與挑戰。一方面,新銳模子及AI原生運用的發作會孕育發生更多算力需求,但同時,因為國產芯片于底層架談判軟件生態上的差異,怎樣高效適配AI模子并充實闡揚算力潛力成為國產芯片范疇亟待解決的問題。
近日,北京電子數智科技有限責任公司(如下簡稱“北電數智”)依托其“浮圖·模子適配平臺”樂成完成DeepSeek V3/R1全尺寸模子與海光DCU、華為、壁仞科技、沐曦等多款國產芯片的混元算力適配,為開發者及企業提供了更矯捷、高效的算力撐持。
技能立異:DeepSeek模子機能領先
DeepSeek模子作為國產AI技能的代表,采用了多項立異技能,包括混淆專家體系(DeepSeekMoE)、多頭潛于留意力機制(MLA)以和自研練習框架。這使DeepSeek于年夜幅削減算力開消的環境下實現了R1模子與OpenAI o1相稱、V3模子與OpenAI 4o相稱的機能體現,揭示出高推理效率及低練習成本的上風。

浮圖·模子適配平臺:抹平芯片差異,異構算力高效支撐模子
北電數智“浮圖·模子適配平臺”抹平了差別芯片架構的差異,快速實現對于DeepSeek模子的優化撐持及硬件適配。用戶無需存眷底層硬件技能細節,平臺會按照模子挪用需求主動匹共同適的算力資源,年夜幅降低了開發門坎。今朝,該平臺已經完成24款基座年夜模子的適配事情,為開發者提供了更多算力選擇。
混元推理技能:優化效率,降低成本
針對于DeepSeek類超年夜模子的推理使命,數據中央的集群化推理技能顯患上尤為主要,例如PD分散(Prefill-Decode分散)技能就可由差別芯片完成差別階段推理使命實現。北電數智的混元推理技能線路與DeepSeek的技能線路高度契合,能有用解決算力不足問題,為年夜范圍AI運用創造便當前提。
鞭策國產算力成長:從適配到生態設置裝備擺設
DeepSeek的成長為行業帶來了深刻啟迪:只有滿意國產原生模子的算力需求,才能真正鞭策包羅國產算力于內的中國AI財產成長。為周全挖掘國產芯片機能潛力與適配能力,北電數智還有推出了“星火·國產算力AI原生適配認證”,促成國產模子與國產算力的深度交融,鞭策國產芯片于AI原生運用場景中的迭代與立異。
企業版內測上線:助力AI運用落地
今朝,北電數智已經正式開通企業版內測辦事,經由過程“北京數字經濟算力中央”為泛博企業及開發者提供便捷、高效的算力撐持。不管是模子練習還有是推理使命,用戶均可以于多芯混元算力情況下輕松構建及部署基在DeepSeek模子的AI運用。
北電數智的一系枚舉措,為國產AI芯片與模子的協同成長提供了新思緒。將來,跟著更多企業及開發者插手,國產算力生態也將迎來越發廣漠的成長空間。
-LEWIN樂玩