「低延迟推理」共找到 2954 篇相关文章
领先于Transformer！新架构首个1200万上下文模型SubQ，成本仅Opus的5%
Subquadratic公司提出SubQ模型，核心是SSA亚二次稀疏注意力机制。该机制改变注意力计算分配，让模型真正读长文档。SubQ是首个有1200万token上下文窗口的前沿模型，成本低、速度快，有望革新大模型扩展路径。
The Batch: 944 | Llama 之后的时代
Meta发布首个AI模型Muse Spark，是多模态推理模型，在部分健康和多模态测试领先，编程与智能体任务有不足。Meta披露技术细节少，该模型基准测试有竞争力，但其从开放转向封闭引开发者担忧。
论文精选 | 以AI赋能力学：计算力学的智能化之路与未来图景
中国力学学会旗舰期刊AMS推出“力学前沿”专栏，首期解读“计算力学的智能化之路与未来图景”。文章介绍智能计算力学三大范式、面临挑战，还阐述重塑智能框架前沿方向，指出AI与计算力学融合是系统性重构。
人跑光了，AI视频炸了！马斯克狂发推：Grok Imagine三金封神
xAI的Grok Imagine在DesignArena视频排行榜上，拿下视频竞技场、图像转视频和视频编辑三项第一，远超谷歌Veo 3.1、Sora等对手。它进步迅猛，靠聪明设计取胜，还将推动AI从“蛮力计算”向“智能理解”转变。
视频生成太慢？英伟达、谢赛宁等发布TMD框架，实现70倍加速
大规模视频扩散模型采样效率低，应用受限。英伟达联合谢赛宁等提出TMD框架，将大型视频扩散模型蒸馏为少步生成器。实验显示，TMD能实现超70倍加速，质量损失小，用户也更偏好其生成的视频。
开源8300小时标注数据，新一代实时通用游戏AI Pixel2Play发布
随着AI在代码和图片生成领域成熟，研究人员开始关注其在游戏领域的表现。此前的专用模型缺乏跨游戏泛化能力，通用模型在游戏环境中表现不佳。为此，Player2研究员提出Pixel2Play模型，还开源了代码和数据集。
2025小结：从RL到Agentic RL
作者回顾2025年从RL到Agentic RL的发展，指出Agentic RL存在慢、不稳定、难scale的问题，还探讨了RL与推理、CoT的关系，以及RL的泛化能力，认为RL能提升模型能力但还不稳定，期待明年研究。
中文互联网“build in public”的新实验，为什么会是AMA？
文章探讨小红书上AMA形式爆火的原因。它与Reddit不同，得益于小红书平权分发、垂直推荐、轻量化设计等特点。AI圈因开源精神成首批用户，AMA为双边提供价值，还让小红书向专业领域拓展。
官宣！前 OpenAI 华人科学家姚顺雨加入腾讯，大模型“系统战”开启！
12月17日消息，前OpenAI科学家姚顺雨加盟腾讯，任首席AI科学家等职。他是AI Agent与大模型推理领军人物，其加入是腾讯AI补强。腾讯还新成立三部门，标志战略向系统化工程建设进阶，混元也有不错表现。
6位前DeepMind老将打造「AI指挥官」，一半成本刷新SOTA
6名前Google DeepMind成员创立Poetiq，搭建元系统让前沿大模型自动生成解决特定任务的策略和模型组合，降低推理成本。其Gemini 3 Pro优化技术在ARC - AGI - 2上创SOTA，成本仅为之前最优方法一半。