「多Agent并行推理」共找到 4601 篇相关文章
开源共建重塑推理 Infra：从架构创新到生态协同，Mooncake的破局之路
大模型推理落地面临成本、吞吐、长上下文“三角困境”。开源项目Mooncake以“计算存储解耦”为核心，通过PD分离等技术提供底层支撑。直播邀请专家从多视角拆解其技术逻辑、开源价值与企业实践。
奇绩创坛 2025 春季路演：Agent、具身、Infra、AI4S，57 个项目完整介绍
奇绩创坛2025年春季创业营路演日，57家公司参与。项目集中在场景智能、空间/具身智能等方向，覆盖AI Agent、智能硬件等赛道，还展示了前沿科研和创业项目。文章介绍了各项目的一句话介绍、简介和团队情况。
从HITL(Human In The Loop) 实践出发看Agent与设计模式的对跖点
本文围绕在 ReactAgent 中引入并实践 HITL 机制展开，介绍实现方案与代码设计。分析无通用人机协同时的问题，阐述 HITL 核心要点、实现效果与细节，还探讨 Agent 演进与工程设计模式的关联。
扩散语言模型九倍推理加速！上海交大：KV Cache并非自回归模型的专属技巧
上海交通大学EPIC Lab团队提出免训练推理缓存机制dLLM - Cache，复用特征降低计算量。它即插即用，通用于主流dLLM架构，在多个基准测试中实现数倍推理加速，且不降低生成质量。
Agent的自演进，被刚刚开源的AReaL 2.0按下了加速键
Agent 正从「会使用工具并完成任务」向「在使用中学习并改进方法」转变，但面临自演进难题。AReaL 2.0 上线，解决 Agent 服务侧问题，给出在线学习闭环方案，其价值已在实践中得到验证。
TypeScript“杀疯了”！60% 到 70% YC 创企用它构建 AI Agent，赶超 Python 有戏？
近日，Mastra AI 创始人称约 60 - 70% 的 YC X25 Agent 公司用 TypeScript 构建 AI Agent。该语言受欢迎是因其静态类型、IDE 集成优势，能提高生产力。虽 Python 仍是 AI 开发主导，但 TypeScript 正受关注。
NeurIPS 2025 Spotlight | FSDrive统一VLA和世界模型，推动自动驾驶迈向视觉推理
面向自动驾驶的多模态大模型存在问题，FSDrive提出“时空视觉CoT”，让模型“以图思考”，联合未来场景与感知结果进行可视化推理。该方法在不改动原有MLLM架构前提下激活图像生成能力，实验表现出色。
Mintlify 做的开发者文档，如何成为 Coding Agent 生产和消费的第一波内容？
Mintlify 是 AI-native 开发者文档工具，抓住“文档读者从人类扩展到 agent”的变化，提供美观文档站和 agent 友好功能。今年 4 月完成 4500 万美元 B 轮融资，但面临竞争，优势或被稀释。
OpenAI公布首颗自研推理芯片成绩，下一代已进入制造阶段
8月25日，OpenAI公布自研推理芯片Jalapeño性能测试结果，首次给出其在多款公开大模型上的具体数据。该芯片在低功耗下实现高推理吞吐量和低延迟，性能超英伟达芯片，B0版已进入制造阶段。
明略科技吴明辉：企业级Agent的“精度陷阱”与人机协同重构之路
2025 年 12 月 19 日，明略科技创始人吴明辉在 AICon 大会分享《可信 Agent 的规模化之路》。他指出企业级 Agent 存在“精度陷阱”，建议重新设计人机分工，让 AI 执行 Task，人定义目标、校验结果、审计逻辑。