返回列表 发布新帖
查看: 242|回复: 0

[人工智能] DeepSeek开源周第二日,开源代码库DeepEP

发表于 2025-2-25 14:38:14 | 查看全部 |阅读模式

这里或许是互联网从业者的最后一片净土,随客社区期待您的加入!

您需要 登录 才可以下载或查看,没有账号?立即注册

×
本帖最后由 as22 于 2025-2-25 14:42 编辑

今天是DeepSeek开源周的第二天,DeepSeek开源代码库DeepEP。


s_9ba57a7d1ac245fb80625042b9b7dc06.png

据了解,DeepEP是首个用于MoE模型训练和推理的开源EP通信库。


据介绍,DeepEP的特点包括:高效、优化的全员沟通;节点内和节点间均支持NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生FP8调度支持;灵活的GPU资源控制,实现计算-通信重叠。


DeepSeek此前宣布,将在本周会陆续开源5个代码库。昨日
DeepSeek公布了开源周的第一个项目:FlashMLA。

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright © 2001-2025 Suike Tech All Rights Reserved. 随客交流社区 (备案号:津ICP备19010126号) |Processed in 0.126656 second(s), 8 queries , Gzip On, MemCached On.
关灯 在本版发帖返回顶部
快速回复 返回顶部 返回列表