「推理场景」共找到 3728 篇相关文章
拒绝传统 Router“瞎指挥”，多智能体如何实现智能任务分配？
企业级多智能体系统瓶颈常是负责分发任务的传统 Router 太“傻”，搞不定跨域、解不了冲突、跟不上变化。腾讯云开源 TCAR 智能路由模型，它先推理再选 Agent 集合，经多数据集评测表现出色，还提供完整开源范式。
万卡时代，企业需要怎样的算力集群？
过去两年，AI算力需求跃升，消耗从训练主导转向推理驱动。企业算力需求有突发性等特点，智算集群是关键方案。InfoQ联合腾讯云发起直播探讨，还介绍了算力供给缺口、集群构建交付、性能优化及演进方向。
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
首钢园变身机器人大世界
近日在北京首钢园举办的机器人产业生态峰会暨投资人大会上，超50家机器人企业携创新产品亮相，展示了机器人在工业、医疗、服务等多场景的实际应用，如宇树科技四足机器人用于电力巡检等。
华为盘古首次露出，昇腾原生72B MoE架构，SuperCLUE千亿内模型并列国内第一
当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。
刚刚，Qwen3.8-Flash震撼发布，我们看到了Qwen4的骨架
8月大模型厂商多上调API价格或收缩免费额度，因推理需求增长跑赢算力供给。阿里发布Qwen3.8-Flash并开源，成绩亮眼且价格低。它是Qwen4架构预演，有四大技术创新，提升了模型效率。
谷歌搜不到的80%互联网，AnySearch全打通了！开发者连夜接入
2026年5月11日海外上线的AnySearch，定位AI时代「搜索基础设施」，专为AI Agent打造统一高质量搜索入口。上线一周在海外开发者圈爆火，经测试性能优于同类产品。通过不同场景实战，展现聚合广度、专业深度等四层能力。
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。
养了只东北味熊猫当AI合伙人，一口一个老铁，还真帮我开了家「一人公司」
腾讯ima上线copilot模式，可“领养”小熊猫并设定人设风格，成专属知识伙伴。它不分对话和任务模式，知识库功能实用，还能私人定制。作者用它模拟创业，体验良好，其记忆和全场景感知实用。
编程智能体的隐藏bug，被上交IPADS团队用数学逻辑给揪出来了
上海交通大学 IPADS 研究团队打造 FM - Agent，实现大规模系统全自动正确性推理。它能从顶尖编程智能体生成的大规模系统中找出隐藏 bug，还提出新规约生成方法，在绝对严谨与工程可用间找到平衡。