「低延迟推理」共找到 2935 篇相关文章
传统训练效率很低？我们靠 “给模型降噪” 重新审视长上下文建模难题
文章指出长上下文模型处理长文本时易受噪声干扰，提出新评估指标IG分数和“上下文去噪训练（CDT）”方法。实验表明CDT优于现有策略，经其训练的开源模型在长上下文任务中性能媲美GPT - 4o。
AICon 2025 深圳回顾：AI Agent 爆火全场，管理与推理优化成新焦点
2025年8月22 - 23日，AICon全球人工智能开发与应用大会在深圳落幕。70 + 嘉宾、800 + 开发者与企业代表参会。AI Agent成全场焦点，企业管理议题意外走红，展示了AI深入企业核心与管理的行业图景。
英伟达为机器人推出懂推理的“大脑”！升级版Cosmos世界模型来了
在SIGGRAPH大会上，英伟达推出全新升级的Cosmos世界模型，重点升级规划能力与生成速度。还升级配套软硬件，如Omniverse库等。英伟达全力布局机器人领域，认为图形与AI融合将变革该领域。
DeepMind掌门自曝AGI倒计时5年！算力需求暴增10倍，推理计算吞噬一切
在最新播客中，DeepMind掌门Hassabis表示自然界规律能被机器学习算法模仿。他畅想AGI应用于游戏，还提及迈向AGI要扩大计算规模，算力需求或增10倍，且运营上以初创公司模式兼顾研究与产品。
通义实验室新研究：大模型自己「扮演」搜索引擎，提升推理能力无需搜索API
阿里通义实验室开源ZeroSearch，提供无需与真实搜索引擎交互的强化学习框架。它用模拟搜索环境和渐进式抗噪训练，让LLM自给自足，节省API成本，在多问答数据集表现优，为智能化检索提供新思路。
一篇论文改写AI科研评价规则！中国公司拿出实践数据，双榜第一、成本更低
今年科技巨头入局AI4S，想打造“AI科学家”。8月19日《Measuring AI Scientists: From Exams to Discovery》论文提出评价范式。深度原理MIRA平台是现实样本，在评测中表现优异，沉淀闭环数据。
Agent 跑分追平 Codex、成本低至 1.95 美元，这家中国公司做到了
德勤报告显示86%多Agent项目落地失败，硅谷也出现‘无限智能体死循环’。EvoMap团队的EvoX采用‘蜂群式自进化’打法，系统容错率翻倍、完成率跃升，成本大幅降低。跑分追平Codex，还展现出自组织潜力。
ICML 2026 | 将多教师冲突转化为动态约束，破解多模态大模型推理对齐难题
在多模态大模型发展中，多教师知识蒸馏成提升性能关键，但教师模型存在“概念漂移”问题。悉尼科技大学团队提出 APO 框架，将模型间“漂移”转化为动态负约束，解决多模态大模型多师蒸馏概念对齐难题，工作被 ICML 2026 接收。
【AAAI 2026大会特邀报告】从推理到科学发现：AI迈向可精专通才之路
上海人工智能实验室周伯文在AAAI 2026大会提出，当前处于AGI前夕，需通专融合智能。他认为可深度专业化通用模型是实现AGI的可行路径，科学发现是AI前沿，还介绍了SAGE架构及相关成果。
斯坦福&英伟达提出新范式：推翻Scale Law，在“推理”阶段自我进化，超越人类专家
斯坦福和英伟达提出 TTT - Discover 新范式，允许模型在测试时继续训练，针对难题‘进化’。它设计了自适应熵目标函数和 PUCT 状态复用组件，实验在多领域碾压人类专家与同行，但在部分领域落地有局限且计算成本高。