「低延迟推理」共找到 2941 篇相关文章
阿里、南开大学发布免训练，视频大模型创新压缩方法
视频模型序列化处理影响推理速度与扩展性，传统token压缩方法在视频理解中有问题。阿里通义实验室与南开联合发布LLaVA - Scissor，用SCC方法和两步时空压缩策略，实验显示其性能优于其他方法。
ICML 2026 | 大模型为什么算不对加法？南大团队提出等本位和轨迹，揭示LLM算术错误的几何机制
南大团队研究LLM在多操作数加法中的内部表征结构，发现算术状态呈高度结构化几何流形。提出等本位和轨迹与噪声量化模型，解释模型算错加法原因，还设计推理时纠错方法。
Meta发布Muse Spark，MSL的首份答卷！Alexandr Wang通过了吗？
Meta发布Muse Spark，是MSL首个模型，经九个月技术栈重构，效率优先。它有原生多模态推理能力，Contemplating模式处理复杂查询，安全评估突出，产品功能升级，商业化转向明显，正逐步在Meta应用推出。
Meta打开AI元认知，让AI不止会解题，还会总结套路了
Meta等机构提出‘元认知重用’机制，让大模型学会反思总结。大模型打造‘行为手册’，与主流RAG系统有本质区别。研究人员设计三种实战用法，虽有局限，但为大模型推理难题提供了解决方案。
MeanFlow再下一城，北大提出机器人学习新范式MP1，实现速度与成功率双SOTA
北大研究团队提出机器人学习新范式MP1，将MeanFlow引入机器人学习，实现毫秒级推理速度。还引入分散损失提升少样本泛化能力，在仿真和真机测试中，实现速度与成功率双SOTA。
Anthropic最新研究：Claude存在神秘J空间，与人类心智高度相似
Anthropic研究团队在Claude中发现类似人类大脑工作机制的J空间，它存在于模型神经激活中，能让模型默默思考。失去J空间Claude在多步骤推理任务表现变差，还可暴露模型意图，团队已创建演示工具JLens。
「双线实测」Qwen 3.6-Plus，Agentic Coding 已经这么能“扛活儿”了？
4月7日阿里云通义千问Qwen3.6-Plus上线，作者用两套真实复杂任务评估其智能体能力。结果显示它在复杂决策和编码任务表现出色，有工业级交付水准，但也有首字延迟等短板，且参数效率优势明显。
在参与OpenAI、Google、Amazon的50个AI项目后，他们总结出了大多数AI产品失败的原因
Aishwarya Naresh Reganti 和 Kiriti Badam 参与超50个企业级AI产品构建。他们指出，如今AI产品构建成本降低，但多数仍失败。还分享开发陷阱与路径，如从低自治高控制起步、建立CC/CD框架等，也对AI未来发表看法。
Ilya的首个模型来了！
掌握内幕的草莓哥爆料，Ilya正构建以TTT为核心的小型推理引擎。他预见传统大模型的死穴，SSI将TTT概念落地，其引擎在数据效率等方面优势明显。SSI获投资，本月或发新模型。
Qwen拿半成品刷下AIME'25满分，给别人留点面子吧……
开源之王Qwen的Qwen3“超大杯”推理版虽为早期预览版，仍在训练中，但已在AIME 25和HMMT25达100%准确率，超GPT - 5系列。该预览版可在Qwen Chat免费试用，API已上线阿里云。