返回列表 发布新帖
查看: 221|回复: 0

[人工智能] DeepSeek开源周第四日,DeepSeek开源Optimized Parallelism Strategies

发表于 2025-2-27 15:45:25 | 查看全部 |阅读模式

这里或许是互联网从业者的最后一片净土,随客社区期待您的加入!

您需要 登录 才可以下载或查看,没有账号?立即注册

×
本帖最后由 as22 于 2025-2-27 16:12 编辑

今天是DeepSeek开源周第四日,DeepSeek宣布开源了Optimized Parallelism Strategies。

据DeepSeek介绍,DualPipe是一种用于V3/R1训练中计算与通信重叠的双向管道并行算法; EPLB是一种针对V3/R1的专家并行负载均衡器。

据了解,DeepSeek第一天开源了FlashMLA代码,第三天:开源了DeepEP通信库,第三天开源了DeepGEMM‌。


33.png
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright © 2001-2025 Suike Tech All Rights Reserved. 随客交流社区 (备案号:津ICP备19010126号) |Processed in 0.125133 second(s), 10 queries , Gzip On, MemCached On.
关灯 在本版发帖返回顶部
快速回复 返回顶部 返回列表