「推理加速技术」共找到 4890 篇相关文章
State of AI 2025：霍桑效应下，AI 是「赚钱机器」还是「泡沫机器」？
Air Street Capital发布2025年度《State of AI Report》，证实AI成重要经济增长动力，但技术突进伴随矛盾。报告提及AI推理能力有‘霍桑效应’，或成泡沫，不过AI - first公司商业化加速，付费工具采用率和合同价值飙升。
我国科研团队，突破了存算一体技术瓶颈
AI浪潮倒逼半导体产业创新，存算一体技术应运而生。但该技术应用存在问题，排序难题制约其发展。北大团队国际首次实现基于存算一体技术的高效排序硬件架构，成果发表在《自然∙电子》。
「百万级」视频推理数据集！30+顶尖高校联合发布
AI视频生成已能「画得像」，但不会「想得对」。VBVR推出百万级视频推理数据集，首次系统评测模型对空间、物理、逻辑和抽象的推理能力，发现顶尖模型通过率仅68%，推动视频AI从「视觉模仿」迈向「智能推理」。
ICLR 2026｜UIUC：一行代码彻底解决LLM推理的过度思考！
2025年DeepSeek发布推理大模型，引发RLVR研究热潮，但该方法有“过度思考”问题。伊利诺伊大学香槟分校等研究者提出Self - Aligned Reward（SAR），能提升推理准确度和效率，有望推动大模型推理系统发展。
OpenAI自曝：AI推理砸钱越多，碾压人类越狠！
OpenAI研究员探讨推理模型时代。Noam Brown强调预训练和推理范式，指出当前AI胜在通用性。推理范式成本低、效果好，如o系列模型表现出色。首席经济学家谈AI经济影响，称其重塑企业格局。
华为| 祭出FlashComm1，FlashComm2、FlashComm3，解决LLM推理通算瓶颈
在大模型推理面临通算难题背景下，华为数学家祭出FlashComm 1、2、3。如FlashComm 1优化AllReduce通信，提升推理性能；FlashComm 2重构计算流程，提升推理速度；FlashComm 3实现多流并行，激增模型吞吐。
从「记忆解题」到「深度推理」：港科大推出首个本科数学动态评测基准 UGMathBench
港科大团队发表在 ICLR 2025 的研究 UGMathBench，是首个本科数学动态评测体系。它涵盖 16 个学科领域，通过变量扰动创建多版本试题，引入创新指标评估模型推理能力，测试结果揭示了当前模型短板。
别再无脑开高推理！Opus 5高配会擅自重构代码乱加戏
有人用FrontierCode编程基准测试Opus 5推理档位，发现性能顶峰在medium档，高档位推理预算多余，会让模型反复校验、偏离需求，在代码场景还会擅自重构代码。Anthropic也建议调低推理档位。
揭秘LLM“思考”之谜：推理即“梯度下降”，元学习框架解构训练过程，还给优化提供新思路
上海AI Lab团队提出RaML框架，从梯度下降和元学习角度揭示LLM“思考”机制。通过实证验证推理轨迹作为参数更新的合理性，还对比不同训练策略，指出RaML为优化LLM性能提供新思路。
让AI学着“看菜下碟”！港中大等新框架让推理长度减少90%，准确率反增17%
香港中文大学等研究者提出TON选择性推理框架，使视觉语言模型能自主判断是否推理。该框架有两阶段训练机制，实验显示其让推理长度最多减90%，准确率还提升，有益模型部署。