「大模型推理」共找到 9469 篇相关文章
700万参数击败DeepSeek R1等，三星一人独作爆火，用递归颠覆大模型推理
今年6月Sapient Intelligence提出的HRM影响大模型推理结构，四个月后三星研究员Alexia Jolicoeur - Martineau推出TRM，700万参数模型在推理基准测试中超越参数多10000倍的模型，还介绍了TRM原理、改进及实验结果。
字节&MAP重塑大模型推理算法优化重点，强化学习重在高效探索助力LLM提升上限
强化学习虽提升大语言模型表现，但面临探索难题。字节跳动等团队提出FR3E框架，分两阶段重建探索机制，在多数学推理基准实验中显著优于强基线，为大模型强化学习提供新范式。
华为攻克AI推理「想太多」问题！新方法让大模型推理提速60%，准确率还高了
华为提出高效推理方法S - GRPO，突破思维链「冗余思考」瓶颈。通过“串行分组 + 衰减奖励”设计，在Qwen3上有效，推理提速60%，生成答案更精确有用，在多个推理benchmark测评中表现出色。
港科提出新算法革新大模型推理范式：随机策略估值竟成LLM数学推理「神操作」
香港科技大学联合团队提出 ROVER 算法，跳过传统强化学习推理的策略迭代循环。它在多项数学推理基准上超越现有方法，在高难度任务中大幅提高 pass@1 和 pass@256，且提升推理多样性，更轻量。
腾讯AngelSlim重磅升级！面向全模态的大模型压缩算法工具包，推理速度飙升 1.8倍！
近年来，推理阶段的成本等因素制约大模型规模化应用。腾讯混元升级的 AngelSlim 围绕 Eagle3 投机采样训练范式构建系统化实现，支持多模态场景，最高可实现 1.9× 推理加速，还具备多亮点。
钉钉上跑出的第一个行业专属大模型落地：准确率超 90% 的妇科专业大模型
近日，壹生检康在钉钉企业专属 AI 平台训练出“豆蔻妇科大模型”，准确率达 90.2%。钉钉构建支持体系助企业构建大模型，后续还将帮伙伴构建模型和智能体，服务中小企业。
蚂蚁武威：下一代「推理」模型范式大猜想
文章围绕下一代「推理」模型范式展开，蚂蚁技术研究院武威提出不同观点，认为长思维链推理未必最优，未来推理模型或更低维稳定，还探讨推理定义、重要性及解法猜想，如结合快慢思考等。
大模型如何推理？斯坦福CS25重要一课，DeepMind首席科学家主讲
Google DeepMind首席科学家Denny Zhou在斯坦福CS25课程分享大语言模型推理见解，总结了四个关键点，阐述推理机制、优化方法及最新进展，还介绍多种推理方法并比较其优劣。
她如何把“系统2”带给了大模型 ｜对话微软亚洲研究院张丽
本文是量子位对微软亚洲研究院首席研究员张丽的访谈。张丽团队在2023年开始探索大模型深度推理能力，2025年1月发布rStar - Math，用蒙特卡洛搜索算法让7B模型实现o1级数学推理能力，引发广泛讨论。
大模型是不是到顶了？瓶颈到底在哪
文章探讨大模型是否到顶，指出‘到顶’争论分三个问题，靠堆大模型提升能力之路变平，受数据和成本约束。但大模型还有后训练和推理时计算两个发展方向，未来进步或来自更会用算力。