「推理内存」共找到 2204 篇相关文章
Mini-Omni-Reasoner：实时推理，定义下一代端到端对话模型
现有端到端对话模型推理能力未解锁，因深度思考带来延迟。为此提出 Mini - Omni - Reasoner，采用边思考边表达范式，突破‘要么快，要么准’困境，还设计了数据合成管线和五阶段训练方法，实验证明其性能提升明显。
「推理革命」爆发100天：DeepSeek-R1复现研究全揭秘！
本文深入梳理围绕DeepSeek-R1的复现研究，解析监督微调、强化学习等关键技术细节，介绍相关数据集、训练方法及奖励机制等，还探讨了推理语言模型更多发展方向，为研究提供基础。
SRO架构赋予Qwen-2.5-VL推理能力，性能飙升16.8%
文本领域推理模型成就大，但扩展到多模态大语言模型遇阻力，如冷启动初始化不足等。为此提出 SRO 三阶段训练框架，经测试，ReVisual - R1 平均性能提升 16.8 个百分点。
阶跃新模型快到“没推理”！印奇上任，果然气势一新
印奇上任后，阶跃星辰发布新一代开源Agent基座模型Step 3.5 Flash，总参数196B，支持256K上下文窗口。它推理快，适配多家芯片厂商，在多场景表现出色，还具备端云协同能力，架构也有多项优化。
谷歌的DeepSeek时刻：LLM推理加速被干到了8倍
谷歌TurboQuant论文介绍量化算法，能为大语言模型和向量搜索引擎大规模压缩。可将大语言模型KV缓存内存减至少6倍、加速达8倍且精度零损失，还介绍其工作原理及实验结果。
4B参数实现理解、推理、生成、编辑一体化！InternVL-U重磅开源
上海人工智能实验室联合多所高校开源多模态一体化模型 InternVL-U，仅 4B 参数，突破现有统一多模态模型瓶颈，在复杂场景超越 14B 级模型，已全面开源，提供推理代码等。
50年僵局打破！MIT最新证明：对于算法少量内存胜过大量时间
MIT理论计算机科学家Ryan Williams最新研究建立数学程序，将任意算法转化为占用空间更少的形式，证明少量计算内存比大量计算时间更有价值，打破计算机科学家近50年认知。
60个量子比特顶百万倍内存：量子机器学习找到新的突破口
4月8日，加州理工学院等联合团队在arXiv发布论文，证明小型量子计算机处理部分机器学习任务时，可用指数级更少内存超越经典计算机。研究绕开QRAM，提出算法框架验证优势，但仍待真实硬件验证。
国内首次！8.9毫秒推理速度破纪录，1元打穿百万token
在2025人工智能计算大会上，浪潮信息发布元脑SD200和元脑HC1000两款AI服务器。前者让DeepSeek R1的Token生成速度达8.9毫秒，后者将推理成本降至1元/百万Token，解决了AI智能体速度与成本难题。
扩散LLM推理新范式：打破生成长度限制，实现动态自适应调节
随着扩散大语言模型成为热门，但其推理时存在预设固定长度的限制。香港中文大学 MMLab 等提出 DAEDAL，赋予模型根据问题自主调整回答长度的能力，在性能和计算效率上有提升。