返回列表 发布新帖
查看: 3|回复: 0

[互联网] 电信阿里联手打造10万卡智算集群:性能提升9.3倍

发表于 3 小时前 | 查看全部 |阅读模式

这里或许是互联网从业者的最后一片净土,随客社区期待您的加入!

您需要 登录 才可以下载或查看,没有账号?立即注册

×
4月8日消息,由中国电信广东公司联合阿里云共同建设的粤港澳大湾区首个基于“真武”芯片的万卡智算集群,近日在韶关数据中心集群正式上线。阿里云表示该集群预计扩容至10万卡规模。

该集群实现了从芯片、云平台到模型应用的全链路自主研发,是国家“超大规模智算集群”新基建在大湾区的首个落地项目。

技术上,集群通过卡间RoCE高性能组网与双平面多轨通信技术,端到端网络时延低至4微秒,网络峰值利用率超过95%。

同时,真武芯片整机提供1.5T超大显存,卡间互联带宽超过700GB/s,为国产算力底座提供了坚实支撑。

值得一提的是,相较传统单机部署模式,集群单卡吞吐性能提升达9.3倍,每秒Token生成总量提升近10倍。

集群提供IaaS、PaaS、MaaS全栈AI智算云化产品服务,训练与推理效率提升超过30%。

集群支持DeepSeek-V3.2满血版、Qwen3.5-397A-A17b等业内领先开源模型实现单机快速部署。

目前,该集群已在多个行业场景落地。尤其是在医疗民生领域,上线的“全诊通”应用,已在中山大学肿瘤防治中心等医院开展国产化迁移与应用试点。

为进一步推动算力普惠,集群资源已同步上架“广东电信算力超市”,面向中小企业提供按卡、按小时计费的算力零售服务。

S068011ec-9312-451f-b5c3-d6097cdde8a6.jpg

来源:快科技
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright © 2001-2026 Suike Tech All Rights Reserved. 随客交流社区 (备案号:津ICP备19010126号) |Processed in 0.128467 second(s), 7 queries , Gzip On, MemCached On.
关灯 在本版发帖返回顶部
快速回复 返回顶部 返回列表