DeepSeek第二炸：開源首個用于MoE模型訓(xùn)練通信庫

2025-02-25 11:59:40來源：快科技關(guān)鍵詞：DeepSeek MoE模型訓(xùn)練通信庫閱讀量：20746

導(dǎo)讀：DeepSeek的DeepEP是首個用于MoE模型訓(xùn)練和推理的開源EP通信庫，它填補(bǔ)了MoE模型專用通信工具的空白，為大規(guī)模分布式AI訓(xùn)練和實(shí)時推理場景提供了更高效的底層支持。

　　2月25日消息，今天是DeepSeek開源周第二日，一早，DeepSeek如約就放出了開源代碼庫DeepEP王炸。

　　據(jù)了解，DeepEP是首個用于 MoE 模型訓(xùn)練和推理的開源EP通信庫，它填補(bǔ)了MoE模型專用通信工具的空白，為大規(guī)模分布式AI訓(xùn)練和實(shí)時推理場景提供了更高效的底層支持。

　　在這里，簡單介紹一下DeepEP的技術(shù)性能特點(diǎn)：

　　1、高效通信架構(gòu)

　　支持優(yōu)化的全對全通信模式，實(shí)現(xiàn)節(jié)點(diǎn)內(nèi)和節(jié)點(diǎn)間的NVLink與RDMA互聯(lián)，提升數(shù)據(jù)傳輸效率。

　　2、多精度與調(diào)度優(yōu)化

　　原生支持FP8低精度運(yùn)算調(diào)度，降低計(jì)算資源消耗。

　　3、重性能內(nèi)核

　　據(jù)介紹，高吞吐量內(nèi)核可適用于訓(xùn)練和推理預(yù)填充場景，最大化數(shù)據(jù)處理能力。

　　4、低延遲內(nèi)核

　　它針對推理解碼場景設(shè)計(jì)，采用純RDMA通信和自適應(yīng)路由技術(shù)，減少延遲。

　　5、資源控制與重疊機(jī)制

　　通過靈活的GPU資源控制策略，實(shí)現(xiàn)計(jì)算與通信過程的高效重疊，避免資源閑置。

　　6、深度優(yōu)化場景

　　針對NVLink到RDMA的非對稱帶寬轉(zhuǎn)發(fā)場景進(jìn)行專項(xiàng)優(yōu)化，提升異構(gòu)網(wǎng)絡(luò)下的傳輸性能。

　　此外，它還支持SM（Streaming Multiprocessors）數(shù)量動態(tài)控制，平衡不同任務(wù)(如訓(xùn)練與推理)的吞吐量需求。

上一篇：曝富士康向本田提議建立四方合作聯(lián)盟

下一篇：重磅！又一光伏巨頭計(jì)劃赴港上市！

我要評論

昵稱

匿名

文明上網(wǎng)，理性發(fā)言。（您還可以輸入200個字符)

表情

所有評論僅代表網(wǎng)友意見，與本站立場無關(guān)。

消息稱黃仁勛與DeepSeek創(chuàng)始人梁文鋒會面討論設(shè)計(jì)新一代芯片
英偉達(dá)公司首席執(zhí)行官黃仁勛在中國訪問期間，與DeepSeek創(chuàng)始人梁文鋒會面。據(jù)報道，黃仁勛與梁文鋒討論了如何設(shè)計(jì)符合中美兩國監(jiān)管要求的新一代芯片，以滿足客戶需求。
黃仁勛DeepSeek梁文鋒
2025-04-20 10:35:20
擁抱DeepSeek的軟件企業(yè)收入激增3倍，行業(yè)迎來爆發(fā)拐點(diǎn)？
今年3月，部分SaaS企業(yè)收入同比增長超過3倍，積極擁抱AI、擁抱DeepSeek的企業(yè)，如果能繼續(xù)保持這樣的增速，有望迎來真正的春天。
DeepSeekSaaS軟件服務(wù)
2025-04-02 16:56:12
DeepSeek+旅游文旅行業(yè)迎來發(fā)展新紀(jì)元
在數(shù)字技術(shù)深度重塑全球產(chǎn)業(yè)格局的當(dāng)下，DeepSeek作為一股創(chuàng)新力量，正深刻影響文旅行業(yè)。憑借強(qiáng)大的數(shù)據(jù)處理能力與智能分析系統(tǒng)，DeepSeek重新定義文旅服務(wù)模式與用戶體驗(yàn)，開啟文旅產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型的全新征程。
DeepSeek文旅
2025-03-31 09:42:08
?？涤^瀾 DeepSeek“雙?！彬?qū)動，?？低暟l(fā)布“大模型一體化平臺”
近日，基于?？怠坝^瀾”大模型 DeepSeek“雙模”協(xié)同，?？低暟l(fā)布“大模型一體化平臺”，助力大模型能力在千行百業(yè)快速便捷落地。
觀瀾大模型DeepSeek
2025-03-26 11:21:48
揚(yáng)州公路部門完成DeepSeek本地化部署
揚(yáng)州市公路事業(yè)發(fā)展中心正式完成深度求索(DeepSeek)人工智能管理平臺本地化部署。依托DeepSeek算法模型，系統(tǒng)可實(shí)時生成交通態(tài)勢熱力圖，為擁堵疏導(dǎo)、施工規(guī)劃及事故響應(yīng)提供科學(xué)決策依據(jù)。
DeepSeek揚(yáng)州公路
2025-03-21 08:46:14
接入DeepSeek 曠視AIS算法生產(chǎn)平臺5.0版全新發(fā)布
近日，曠視正式發(fā)布自研的算法生產(chǎn)平臺AIS（AI Service）5.0版！此次升級，包括接入DeepSeek等三大核心能力重磅亮相，助力企業(yè)AI生產(chǎn)力再躍升！
DeepSeek算法
2025-03-17 09:55:26

版權(quán)與免責(zé)聲明：

凡本站注明“來源：智能制造網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-智能制造網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本站授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來源：智能制造網(wǎng)”。違反上述聲明者，本站將追究其相關(guān)法律責(zé)任。

本站轉(zhuǎn)載并注明自其它來源（非智能制造網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本站贊同其觀點(diǎn)或和對其真實(shí)性負(fù)責(zé)，不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。如其他媒體、平臺或個人從本站轉(zhuǎn)載時，必須保留本站注明的作品第一來源，并自負(fù)版權(quán)等法律責(zé)任。如擅自篡改為“稿件來源：智能制造網(wǎng)”，本站將依法追究責(zé)任。

鑒于本站稿件來源廣泛、數(shù)量較多，如涉及作品內(nèi)容、版權(quán)等問題，請與本站聯(lián)系并提供相關(guān)證明材料：聯(lián)系電話：0571-89719789；郵箱：1271141964@qq.com。

不想錯過行業(yè)資訊？

訂閱 智能制造網(wǎng)APP

一鍵篩選來訂閱

信息更豐富

今日焦點(diǎn)/FOCUS 更多

熱門話題/TOPICS更多

人形機(jī)器人奏響“狂歡曲”

高難度！深圳眾擎實(shí)現(xiàn)全球首例人形機(jī)器人前空翻

宇樹科技王興興：預(yù)計(jì)年底H1機(jī)器人跑速達(dá)10米/秒超博爾特

“智能經(jīng)濟(jì)”駛?cè)氚l(fā)展“快車道”

AI智能體Manus橫空出世！中國AI實(shí)現(xiàn)自主執(zhí)行能力跨越式突破

數(shù)轉(zhuǎn)智改，安全先行！“以模制?！弊o(hù)航企業(yè)數(shù)智升級

精彩直播/VIDEO更多

回放

數(shù)字孿生賦能新型工業(yè)化分論壇

: 數(shù)字孿生賦能低空經(jīng)濟(jì)分論壇

: 數(shù)字孿生賦能城市全域數(shù)字化轉(zhuǎn)型分論壇

推薦產(chǎn)品/PRODUCT 更多

幸康高效率模塊電源CQB100W8-36S05
CINCON模塊電源,CQB100W8-36S12,CQB100W8-36S28,CQB100W8-36S48,CQB100W8-36S54
品牌
CINCON
國產(chǎn)海光處理器上架式4U工控機(jī)
工業(yè)控制計(jì)算機(jī),集特智能,上架式工控機(jī),國產(chǎn)海光處理器,國產(chǎn)4U工控機(jī)
品牌
集特智能
AB羅克韋爾1756系列PLC模塊
模塊
品牌
羅克韋爾/Allen Bradley
SICK西克光電開關(guān)傳感器GTB6-N4212
光電傳感器,智能制造與自動化/醫(yī)療/工業(yè),高精度檢測/智能功能和診斷,塑料,光電開關(guān)
品牌
SICK
負(fù)氧離子檢測儀
負(fù)氧離子甲醛pm2.5PM10溫濕度,四合一檢測儀,FJPW40
品牌
其他品牌
德國Kern Sohn分析天平EW 2200-2NM
Kern & Sohn,德國Kern & Sohn,Kern & Sohn天平,EW 2200-2NM,分析天平
品牌
其他品牌

国产强伦姧在线观看无码,中文字幕99久久亚洲精品,国产精品乱码在线观看,色桃花亚洲天堂视频久久,日韩精品无码观看视频免费

DeepSeek第二炸：開源首個用于MoE模型訓(xùn)練通信庫

熱門評論

全部評論