「AI推理加速」共找到 10950 篇相关文章
大模型结构化推理优势难复制到垂直领域！最新法律AI评估标准来了，抱抱脸评测集趋势第一
多个机构研究人员联合发布全新多语言法律推理基准数据集LEXam，它含4886道题，每道长篇题有答案和推理路径。研究显示现有大模型应对法律推理难，LEXam引入评估新模式，还对不同模型做了测试。
时空压缩！剑桥大学提出注意力机制MTLA：推理加速5倍，显存减至1/8
在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。
告别卡脖子，华为黑科技破局！昇腾推理加速1.6倍打破LLM降智魔咒
大模型参数规模大，推理部署难。华为诺亚提出Pangu Light框架，结合算法创新与国产昇腾平台，通过跨层注意力剪枝等技术，解决剪枝后模型失稳问题，实现高压缩率、推理加速与高精度。
震撼实锤！清华姚班校友揭「1.4×加速」陷阱：AI优化器为何名不符实？
为降低大模型预训练成本，近年新优化器频出，宣称加速1.4×到2×却难落地。斯坦福研究指出方法学缺陷，对比不同缩放范式加速差异，给出优化器设计见解，证实严格基准评测必要。
d-Matrix用3D堆叠技术终结"内存墙"，AI推理迎来光速时代
2025年9月Hot Chips上，d - Matrix展示3D堆叠数字内存计算技术，直击AI“内存墙”难题。其产品Corsair带宽强大，新Pavehawk架构更有性能跃升，为AI推理开辟新赛道，虽面临挑战但前景可期。
谷歌发布最强 AI“全家桶”、一句话就让AI拍大片！这一夜，谷歌Gemini贯穿始终，网友：果然Android“靠边站”了
谷歌在I/O大会推出AI“全家桶”，含Gemini 2.5模型更新、搜索新AI模式等。谷歌已发布十多个新模型、20多个重大AI产品与功能，多项数据显示AI发展迅速，还有多项目融入产品，多模态模型升级。
第一章：AI 技术前沿全景
文章聚焦AI Agent技术前沿，阐述大语言模型三次能力跃迁，从涌现能力到对齐指令遵循，再到推理与行动。还提及Scaling Law变化，推理时计算扩展更划算，介绍代表性推理方案及多模态融合，指出Agent打破传统对话AI局限。
让AI学会潜意识推理，Sapient发布类脑模型HRM
新加坡初创公司Sapient Intelligence发布仅2700万参数的分层推理模型HRM，在多项高难度推理任务上超越大模型。它绕过大模型推理困境，借鉴大脑机制，训练效率高，开源后GitHub星标突破10.3k。
从游戏少女到AI女神！她用物理驯服AI，让飓风预测快1000倍
本文讲述了AI领域领军人物Rose Yu的成长历程，她从玩游戏起步，到用物理知识改进交通预测、加速飓风模拟，还设想打造“AI科学家”辅助科研，强调AI是助手而非替代者。
驾驭AI的人，才是穿越周期的竞争力｜2026极客时间DTDS大会圆满落幕
2026年5月极客时间企业版联合《培训》杂志举办DTDS大会，四位产业一线实践者拆解企业AI转型难题。协鑫科技张诗笳给出AI人才培养体系；赵钰莹发布8大岗位AI技能图谱；广新集团李志刚分享创新加速三步法；黄林给出未来趋势判断与诊断模型。