返回列表 发布新帖
查看: 18|回复: 0

[人工智能] DeepSeek发布梁文锋署名新论文,V4有望支持全新记忆架构

发表于 3 天前 | 查看全部 |阅读模式

这里或许是互联网从业者的最后一片净土,随客社区期待您的加入!

您需要 登录 才可以下载或查看,没有账号?立即注册

×
1月13日消息,今日,DeepSeek发布新论文《Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models》(基于可扩展查找的条件记忆:大型语言模型稀疏性的新维度)。

该论文为北京大学与DeepSeek共同完成,合著作者署名中出现梁文锋。

s_06022b3b4e8a4b24844afb2a4b4f25cd.png

论文提出条件记忆(conditional memory),通过引入可扩展的查找记忆结构,在等参数、等算力条件下显著提升模型在知识调用、推理、代码、数学等任务上的表现。

此外,DeepSeek还开源相关记忆模块Engram。

该模块提出了“查—算分离”的全新架构思路,业内认为,Engram有望成为DeepSeek下一代模型V4的核心技术基础。

据媒体报道,知情人士透露,DeepSeek计划于2月中旬农历新年前后推出V4模型,不过具体时间仍可能调整。

来源:快科技
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright © 2001-2026 Suike Tech All Rights Reserved. 随客交流社区 (备案号:津ICP备19010126号) |Processed in 0.113466 second(s), 7 queries , Gzip On, MemCached On.
关灯 在本版发帖返回顶部
快速回复 返回顶部 返回列表