「推理训练」共找到 3569 篇相关文章
【梁文锋署名】DeepSeek再发新论文：75%思考+25%记忆，这是他们算出来的最优解
DeepSeek新论文《Conditional Memory via Scalable Lookup》提出Engram模块，指出大模型用计算模拟查字典是浪费算力，Engram能给模型装“记忆”，还发现参数分配呈U型缩放定律，推理和长上下文能力提升显著。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
DeepSeek-R1今天一次「小更新」，颠覆了大模型格局，网友：尽快放R2
昨晚，DeepSeek官方宣布其R1推理模型升级到最新版本（0528），并公开模型及权重。该版本参数量高达6850亿，采用MIT许可证，性能提升明显，在多个基准测试中成绩优异，网友实测代码能力也大幅提升，但仍存在过度思考问题。
专为小说、角色扮演等而生：元象开源泛娱乐场景底座模型
元象作为AI与3D技术服务公司，此次开源XVERSE-Ent系列中英双语大模型。它采用MoE热启动技术与三阶段训练策略，解决泛娱乐场景痛点，适配多元语境，有高部署性价比，为行业提供泛娱乐AI解决方案。
AGI新技术路线：下一代稀疏注意力机制Monte Carlo Attention开源
超对称技术公司开源了 Monte Carlo 注意力机制，用于新版基座模型 BigBang - Proton。它在二进制块编码技术上，用块间代表交流机制实现线性复杂度，解决了传统方法的缺点，可实现理论上无限的上下文长度，对现有预训练技术和硬件设计影响深远。
开启端侧长文本时代！面壁全新架构，让小钢炮最快提升220倍
2025智源大会上，面壁智能发布MiniCPM 4.0模型，实现行业首个系统级上下文稀疏语言模型创新。它在端侧推理任务上表现出色，降低缓存需求，提高运行效能，还进行多维度架构创新，是AI领域探索高效率语言模型的里程碑。
DeepSeek识图模式全量上线，却认不出自家老板梁文锋
端午节前，DeepSeek全量推送识图模式。测试发现，它能认出黄仁勋，但忽略‘豆汁’字样，识别人物和潦草汉字准确率低，不过识别文物能力不错。还比较了与其他模型在乐理推理测试中的表现，开发者有新疑问待解答。
小米万亿模型全面开源：MIT 协议、1M 上下文，但还是打不过 DeepSeek
小米开源 MiMo-V2.5 和 MiMo-V2.5-Pro 两款模型，采用 MIT 协议，适合商业应用。在基准测试中表现出色，有竞争力价格和限时优惠。但与 DeepSeek 比，架构创新偏工程化，也有推理表现不足等问题。
社区供稿丨Ring-2.5-1T，思更深，行更远
今天发布并开源万亿参数思考模型 Ring-2.5-1T，在生成效率、思考深度、长程执行上大幅提升。与其他模型对比，在高难推理和长程任务执行达开源领先。介绍架构优势、手搓案例，也提及不足与未来计划。
相机参数秒变图片！新模型打通理解生成壁垒，支持任意视角图像创作
S-Lab等机构研究员提出Puffin统一多模态模型，它能整合理解相机参数与按参数生成对应视角图片的能力。通过“用相机思考”和400万组数据训练，解决此前模型问题，还构建相关数据集和评测基准，性能出色。