「并行协同推理」共找到 2609 篇相关文章
大模型最后一层竟是推理累赘？绕开对齐税，奥数准确率暴涨 22.4%！
Qwen团队、清华和南洋理工研究打破传统认知，揭示‘对齐税’现象。提出Confident Decoding策略，在多架构和评测集实验中表现出色，开销低，挑战‘LLM最后一层最优’常识。
长思维链里的推理步骤，哪些最关键？三招锁定LLM的「命门句子」
杜克大学和 Alphabet 研究者提出在句子层面分析推理痕迹，找出长思维链中关键步骤，提高 LLM 可解释性等。提出三种互补方法，还提供开源工具，研究为调试推理失败等提供可能。
攻克大模型训推差异难题，蚂蚁开源新一代推理模型Ring-flash-2.0
9月19日，蚂蚁百灵大模型团队开源新一代推理模型Ring-flash-2.0，独创棒冰算法解决训推差异难题，实现稳定训练。该模型仅激活6.1B参数就能打平40B Dense模型性能，降低推理成本。
AI真有希望考清北了！豆包1.6多模态推理发威，闯关数理化带图大题
火山引擎原动力大会发布豆包大模型1.6，它是国内首款多模态SOTA模型，支持256k上下文长度。实测中它解答高考数理化带图大题表现出色，还具备图像识别、视频理解、GUI操作等能力。此外，火山引擎还推出系列工具和平台助力企业。
大模型推理上限再突破：「自适应难易度蒸馏」超越R1蒸馏，长CoT语料质量飞升
本文从中兴通讯无线研究院「大模型深潜」团队切入，介绍了首创的「LLM自适应题目难度蒸馏」方法，该方法围绕「模型 - 数据动态匹配」提出了一条完整的CoT构建流程，显著提升了长CoT语料的质量。
超长推理还能节省计算！Salesforce开源神器两连发：教大模型边想边省，显著提升数学编程准确率
Salesforce AI Research开源Elastic Reasoning和Fractured Sampling。前者将推理流程分两部分，分配token预算，使输出缩短、准确性提高；后者打碎推理链条，从三维度采样，以更少tokens换更高准确率，均提升数学和编程任务准确率。
nndeploy：一款基于可视化工作流的AI部署工具
nndeploy是简单易用且高性能的AI部署框架，可将推理优化转化为可视化工作流，无需前端技术栈。它还提供端侧完整AI部署方案，有多端推理等功能，介绍了使用方法与技术原理。
舍弃自回归，离散扩散语言模型如何演化？NUS综述解构技术图谱与应用前沿
本文介绍新加坡国立大学xML团队的论文，梳理离散扩散方向研究图谱，对比自回归局限与离散扩散优势，阐述数理基础、模型生态、训练与推理技术，还提及应用及未来方向，显示其对自回归范式的替代潜力。
KV-Cache 实战策略：生产环境中的分页、固定与复用技术解析
在大语言模型推理场景中，KV - Cache 是平衡性能与成本的核心技术，但生产环境中面临诸多问题。本文聚焦其分页、固定与复用三大战术，结合原理、实践与案例，为开发者提供解决方案，还探讨了未来演进方向。
刚刚，OpenAI前CTO：战胜LLM不确定性的方法找到了！
OpenAI前CTO创立的Thinking Machines Lab发布研究《战胜LLM推理中的不确定性》。研究指出LLM推理不确定性主因是批处理大小变化，而非常见认为的GPU并行性等。还给出实现批处理不变性的方案及实验结果。