这里或许是互联网从业者的最后一片净土,随客社区期待您的加入!
您需要 登录 才可以下载或查看,没有账号?立即注册
×
本帖最后由 as22 于 2026-7-6 14:43 编辑
7月6日消息,今日,美团新一代万亿参数大模型LongCat-2.0正式开源。
摩尔线程宣布,摩尔线程基于AI训推一体全功能GPU智算卡MTT S5000及MUSA软件栈,已完成对该模型的Day-0支快速适配。
此次适配覆盖模型加载、推理引擎拉起、关键算子优化、部署验证与精度校验等全链路环节,使LongCat-2.0能够在MTT S5000上实现稳定、高效的推理运行。
作为美团自研的新一代万亿参数MoE大模型,LongCat-2.0总参数量达1.6T(平均激活约48B,动态范围33B~56B)。该模型专为Agentic Coding场景设计,原生支持1M超长上下文,并通过自研稀疏注意力机制(LSA)、ScMoE跨层快捷连接架构与零计算专家动态激活机制,实现了资源的高效利用与多任务协同。
综合评测结果显示,LongCat-2.0 凭借卓越的综合性能与稳定的任务表现,在Code和General Agent场景表现优异,已跻身全球最受开发者欢迎的智能体核心大模型之一。
摩尔线程技术团队依托高性能SGLang-MUSA推理引擎及MUSA软件生态,围绕LongCat-2.0的模型结构和推理特性,快速完成从框架兼容到性能优化的全链路适配。
硬件原生FP8加持,释放长上下文推理性能
LongCat-2.0面向更复杂的任务处理需求,在实际部署中往往涉及长输入、多轮上下文、复杂指令分解和持续生成等推理负载,对GPU算力、显存容量、访存带宽和推理调度能力均提出更高要求。MTT S5000具备硬件级原生FP8加速能力,单卡具备高算力、大容量显存与高带宽,可为长上下文输入、KV Cache读写和高并发推理提供稳定支撑。结合SGLang-MUSA推理引擎与MUSA软件栈的协同优化,LongCat-2.0在MTT S5000上能够更充分释放推理性能,提升在线服务响应效率与系统吞吐能力。
标准化工程路径,缩短前沿模型部署周期
摩尔线程基于持续沉淀的模型适配经验,将模型结构解析、权重加载、推理框架兼容、算子验证和部署测试形成标准化工程路径,使LongCat-2.0能够在MTT S5000上快速完成推理验证。这不仅进一步体现了MUSA软件栈对主流模型生态的高度兼容性,也有效降低了前沿模型在国产算力平台上的迁移和部署门槛。
服务AI应用落地,支撑Coding、Agent与企业知识场景
围绕AI Coding、Agent工作流、企业知识库问答和长文档分析等典型应用,摩尔线程对LongCat-2.0推理链路进行了部署级验证。通过框架、算子和调度层面的协同优化,MTT S5000能够为客户提供兼具性能、稳定性和可扩展性的推理基础设施,助力大模型应用更快从技术验证走向生产部署。
摩尔线程表示,此次完成LongCat-2.0模型Day-0支持,是国产大模型与国产芯片深度协同的又一重要实践。 |