搜索：多Agent并行推理

「多Agent并行推理」共找到 4618 篇相关文章

国产双开源：让Mac成为你的私人AI工作站

2026年3月底，Ollama将Mac版底层推理引擎换为苹果MLX框架，性能提升显著。明略科技开源Cider和Mano - P，Cider加速推理，Mano - P可操作图形界面，两者结合推动Private AI发展。

nndeploy是简单易用且高性能的AI部署框架，可将推理优化转化为可视化工作流，无需前端技术栈。它还提供端侧完整AI部署方案，有多端推理等功能，介绍了使用方法与技术原理。

Claude Cowork发布砸了Guohao Li的创业梦，他将Eigent项目开源。他对multi - agent架构工程化重构，打造全栈本地Agent，其分布式设计、沙盒终端、推理层优势明显，引发社区关注。

本文介绍新加坡国立大学xML团队的论文，梳理离散扩散方向研究图谱，对比自回归局限与离散扩散优势，阐述数理基础、模型生态、训练与推理技术，还提及应用及未来方向，显示其对自回归范式的替代潜力。

阿里云Tair KVCache团队联合多团队将开源Tair KVCache Manager，介绍其架构设计与实现。该服务应对Agentic AI下KVCache存储挑战，解决传统模式难题，具备企业级管理能力，后续还会完善多方面功能。

这是《2025年中丨大模型市场分析报告》。指出基础大模型塑造计算未来，企业重心转向推理。Anthropic超OpenAI成市场头号玩家，开源模型采用趋缓，企业换模型重性能，AI支出从训练转向推理。

这是真格基金管理合伙人戴雨森2025年中对AI行业的半年度复盘。他从投资人视角，围绕OpenAI通用大模型达IMO金牌水准、ChatGPT Agent发布等热点，分享AI应用、模型、产品“壳”价值等看法，认为模型和应用价值被低估。

OpenAI前CTO创立的Thinking Machines Lab发布研究《战胜LLM推理中的不确定性》。研究指出LLM推理不确定性主因是批处理大小变化，而非常见认为的GPU并行性等。还给出实现批处理不变性的方案及实验结果。

大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。

4月20日深夜Kimi K2.6发布并开源，作者借Andrej Karpathy的AI Wiki思路设计高承压任务，测试其Agent底层能力，考察它在单Agent、Agent网站和Agent Swarm三种模式下表现，探究国产AI真实水平。