「有状态推理」共找到 7668 篇相关文章
北大联合阶跃星辰提出TensorCast：统一可编程管理大模型张量，推理「首字延迟」最高降低93.2%
随着模型规模增长、新应用兴起，大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast，解耦张量状态，复用管理能力，在多场景测试中表现出色，为大模型基建提供新范式。
大模型推理上限再突破：「自适应难易度蒸馏」超越R1蒸馏，长CoT语料质量飞升
本文从中兴通讯无线研究院「大模型深潜」团队切入，介绍了首创的「LLM自适应题目难度蒸馏」方法，该方法围绕「模型 - 数据动态匹配」提出了一条完整的CoT构建流程，显著提升了长CoT语料的质量。
超长推理还能节省计算！Salesforce开源神器两连发：教大模型边想边省，显著提升数学编程准确率
Salesforce AI Research开源Elastic Reasoning和Fractured Sampling。前者将推理流程分两部分，分配token预算，使输出缩短、准确性提高；后者打碎推理链条，从三维度采样，以更少tokens换更高准确率，均提升数学和编程任务准确率。
DeepSeek|从零构建轻量级vLLM：Nano-vLLM，吞吐量逼近原版，代码仅需1200行
开源的vLLM能提升LLM推理速度和资源利用率。近日，DeepSeek AI俞星凯从零构建轻量级Nano - vLLM，代码仅1200行。它有离线推理等功能，基准测试显示吞吐量逼近原版。
高智商 ≠ 高财商？50天实盘测试：LMArena 高分王者也可能是「韭菜」
伊利诺伊大学厄巴纳 - 香槟分校团队开发 LiveTradeBench，让大模型在真实金融市场交易，检验其能力。它全面开源，有实时数据、组合决策等创新，50 天实测揭示模型财商差距。
全新开源视频换装框架MagicTryOn
现有视频虚拟试穿（VVT）方法在时空一致性和服装内容保留方面有挑战，浙大提出全新开源视频换装框架MagicTryOn，利用全自注意力机制统一时空建模，设计服装保留策略，还引入掩码感知损失。
ICLR 2026 | 7B小模型干翻GPT-5？AdaResoner实现Agentic Vision的主动「视觉工具思考」
文章介绍了AdaResoner模型，它学会‘何时用工具’，在拼图推理上击败GPT - 5。Google为Gemini 3 Flash引入‘Agentic Vision’，与AdaResoner殊途同归。AdaResoner有独特训练方法，提升小模型性能。
数学圈地震！o3靠直觉刷爆人类顶尖难题，14位专家集体破防
Epoch AI新研究发现，o3 - mini - high能破解顶尖数学难题，具备渊博学识且会基于直觉解题，但推理风格依赖直觉，缺乏严谨性和创造力，还存在投机取巧、幻觉等问题。
评论送书 | Al智能体与传统AI应用的区别？它如何工作？如何快速构建智能体？
文章对比AI智能体与传统AI应用，指出前者更像“乐高积木”，可融入生活工作。介绍其工作是“感知—推理—执行—学习”循环，还给出快速构建通用方法，如明确目标、选框架等。
Meta-Think ≠ 记套路，多智能体强化学习解锁大模型元思考泛化
上海交通大学等团队提出ReMA框架，将复杂推理解耦为元思维和推理智能体，通过迭代强化学习协作。在单轮实验中，ReMA在多基准测试表现优；多轮实验虽有提升但不稳定，需进一步探索。