搜索：大语言模型推理

「大语言模型推理」共找到 8330 篇相关文章

ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代

随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。

全球大模型进入千万亿智元（Token）时代，OpenRouter年化智元用量突破一千万亿，对应推理支出约10亿美元。黄仁勋在GTC大会提出「智元（Token）经济学」，智元成AI时代核心经济标尺，重塑产业规则。

工程仿真里有限元方法常见，但计算与人力成本高。此研究提出把大语言模型变为计算机辅助工程智能体，开发不依赖训练数据的降阶求解器，在多问题上表现佳，为下一代计算机辅助工程提供框架。

语音合成技术在大语种发展好，但小语种因语料稀缺等面临挑战。逻辑智能团队提出针对低资源语言TTS的解决方案，构建泰语数据集，经先进预处理，其TTS模型效果好，有零样本克隆能力。

北大、北邮和华为研究提出纯卷积扩散模型 DiC，抛弃自注意力机制回归 3x3 卷积。它性能超 DiT，推理速度快 5 倍，证明精心设计的卷积网络在生成任务中也能表现卓越。

Claude Opus 4.7刚发布就遭全网吐槽，价格贵50%，性能却严重倒退，出现幻觉、计算拉胯等问题。用户质疑Anthropic为省钱缩水模型，罪魁祸首可能是新引入的“自适应推理”功能。

11月14日阿里开启「千问 APP」公测，其集成通义千问 Qwen 系列顶尖模型，有多模态能力。它对标 ChatGPT，在中文语境和结构化输出上有优势，实测处理财报、麻将推理等表现佳。

大型语言模型在专业领域表现不佳，传统微调方法成本高、易过拟合。腾讯优图实验室提出Training - Free GRPO，无需更新参数，通过上下文学习提升性能，成本低且泛化性好，是传统强化学习有力替代。

OpenAI宫变时，Jakub Pachocki与Szymon Sidor力助奥特曼翻盘。他们高中相识，因AlphaGo加入OpenAI。ChatGPT并非偶然，是团队深耕成果。二人推动推理模型发展，强调AGI发展中对齐问题重要，要兼顾能力与安全。

5月28日，DeepSeek低调宣布R1模型小版本试升级，API接口和使用方式不变，但未公布具体更新内容。从用户反馈看，语义理解、逻辑推理等能力提升，实测表现出色。此次升级或有安全、产品路线等考量。