「推理性能优化」共找到 4177 篇相关文章
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。
编程智能体的隐藏bug，被上交IPADS团队用数学逻辑给揪出来了
上海交通大学 IPADS 研究团队打造 FM - Agent，实现大规模系统全自动正确性推理。它能从顶尖编程智能体生成的大规模系统中找出隐藏 bug，还提出新规约生成方法，在绝对严谨与工程可用间找到平衡。
π0.7来了！涌现出组合泛化、跨本体迁移能力，VLA又行了？
具身赛道玩家 Physical Intelligence 发布新模型 π 0.7，它展现出组合泛化和跨本体迁移能力，还能通过知识蒸馏学会优化技巧。其强大源于杂数据和细提示，未来有望解决复杂任务。
黄仁勋，开启智元（Token）时代
全球大模型进入千万亿智元（Token）时代，OpenRouter年化智元用量突破一千万亿，对应推理支出约10亿美元。黄仁勋在GTC大会提出「智元（Token）经济学」，智元成AI时代核心经济标尺，重塑产业规则。
天下苦CUDA久矣，又一国产方案上桌了
AI开发中，国产硬件增多，但开发者仍依赖进口生态。KernelCAT作为国产AI Agent应运而生，它能开发高性能算子，在昇腾芯片测试中表现出色，还能助力模型在国产平台高效迁移，限时免费内测。
大模型的进化方向：Words to Worlds | 对话商汤林达华
量子位对话商汤林达华，探讨大模型发展。商汤的SenseNova - SI超越李飞飞团队模型，林达华认为单纯依赖参数规模的AI范式遇瓶颈，商汤推出NEO架构革新，还在落地应用优化，为年轻人指明新赛道。
MeshCoder：以大语言模型驱动，从点云到可编辑结构化物体代码的革新
生成式AI在三维空间面临挑战，传统3D生成成果粗糙难编辑。团队推出MeshCoder，将三维输入翻译成结构化代码，有分部件生成等优势。介绍其实现路径、实验性能，也指出局限并展望未来。
刚刚，大模型装上「鹰眼」！首创高刷视频理解，谷歌Gemini 2.5完败
面壁智能开源MiniCPM-V 4.5多模态端侧模型，8B参数越级反超72B巨无霸，在多领域达SOTA。它首创高刷视频理解，性能强、效率高、适合端侧部署，还实现多技术创新，是开源端侧多模态AI的革命。
Claude Sonnet 4 支持百万上下文了，AI Coding 的想象力更大了
Anthropic宣布Claude Sonnet 4支持100万Token上下文窗口，容量为之前5倍。该功能已在部分平台公测，将推给更多用户。它支持复杂任务，有新定价和成本优化方案，获早期用户高度评价。
GPT-5：没有AGI，失望和天花板，最具竞争力的可能是定价
刚看完GPT - 5发布会，整体令人失望。发布会现错误图片，市场反馈不佳，专家认为开发仓促。它有三个型号，基础性能表现不一，在部分测试中不如竞品，亮点是价格有竞争力，代码能力受开发者好评。