「推理论文」共找到 2854 篇相关文章
从 Prompt 到 Context：基于 1400+ 论文的 Context Engineering 系统综述
本文围绕Context Engineering展开，介绍其定义、与Prompt Engineering区别，从LLM OS视角说明其重要性，指出context处理不当的问题，对其分类及处理管理过程进行探讨，还提及面向LLM Context开发的变化。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi-4-mini版本，针对特定推理任务微调出Phi-4-mini-Flash-Reasoning 3B模型，将其扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行快10倍，有诸多优点。
开源SOTA！商汤原生多模态一个大脑完成看图、推理、作画
商汤开源日日新SenseNova U1，用NEO - unify架构让像素和文字自由协作，多项指标达开源SOTA，适配10家国产芯片。它能完成看图、推理、作画等多任务，虽有局限，但后续优化值得期待。
谷歌的DeepSeek时刻：LLM推理加速被干到了8倍
谷歌TurboQuant论文介绍量化算法，能为大语言模型和向量搜索引擎大规模压缩。可将大语言模型KV缓存内存减至少6倍、加速达8倍且精度零损失，还介绍其工作原理及实验结果。
快手提出强化学习创新框架RLEP，突破大模型推理瓶颈
OpenAI等模型用强化学习提升推理能力，但面临训练不稳定等挑战。快手Klear团队提出RLEP框架，引入经验回放技术，分经验收集和回放训练两阶段，还采用优化策略，提升大模型训练效率和性能。
爆火的腾讯WorkBuddy发了篇论文，公开了自家底牌
腾讯 WorkBuddy 团队将内部模型选型评测等开源成 Benchmark，公开多模型 Agent 工作台选型底牌。Bench 优点是任务分布真实且开源可审计，论文介绍了核心方法论、四大赛道拆解、榜单结果，还对比了现有工作。
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。
突破40年Dijkstra算法瓶颈，清华教授等颠覆教科书！斩获STOC最佳论文
清华大学教授段然提出最短路径新方法，击败经典Dijkstra算法，突破40年排序瓶颈。该算法不依赖排序，运行更快，摘得STOC最佳论文，团队正优化追求更快速度。
ICML 2025放榜！接收率26.9%，高分被拒，低分录用惹争议
第42届国际机器学习大会（ICML）2025放榜，接收率26.9%。文章汇总了被接收的优秀论文如MARS、ShadowKV等，以及有争议的论文，一些高分被拒、低分录用，评审存在矛盾与粗心问题，欢迎读者在评论区讨论。
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，GitHub 近 15K Stars，月均下载量超 10 万次，被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享关键技术等内容，6 月 27 - 28 日他将在 AICon 演讲。