「并行代理」共找到 449 篇相关文章
Anthropic、OpenAI、谷歌和微软都认为智能代理控制层是产品，但在定价上存在分歧
近期，Sycamore获6500万美元种子轮融资用于构建自主企业级AI操作系统，Anthropic、OpenAI等也有动作。各实验室都认可智能代理控制层是产品，但在定价和交付模式上分歧明显。
Sglang 源码学习笔记（三）- 分布式和并行（以deepseek 为例）（WIP）
文章是 sglang 源码学习笔记，聚焦分布式和并行，以 deepseek 为例。介绍通信域类型，分析 ZMQ 和 torch.dist 通信，阐述 TP、DP、EP 实现，包括初始化、使用等，还涉及不同 Linear 层 TP 及 MoE 不同实现情况。
告别大模型“失忆”！人大开源MemSifter：轻量代理先思考再回忆，搞定长时记忆
中国人民大学团队提出全新LLM记忆管理框架MemSifter，打破长时记忆管理‘精度不够’和‘成本太高’的困局。它将记忆检索‘外包’给轻量级代理模型，采用任务结果导向的RL训练范式，在8个基准测试中超越现有SOTA方案。
告别大模型“失忆”！人大开源MemSifter：轻量代理先思考再回忆，搞定长时记忆
当前大语言模型在长周期任务中，长时持久记忆管理陷入“精度不够”和“成本太高”的两难困境。中国人民大学团队提出MemSifter框架，将记忆检索工作外包给轻量级代理模型，在8个权威测试中超越现有方案，且已开源。
自回归因果注意力也能并行解码？上交联合UCSD突破LLM推理瓶颈，模型代码全开源
大语言模型推理速度是应用瓶颈，传统方法各有弊端。上交和UCSD团队提出Jacobi Forcing方案，无需重构架构，将AR模型转为并行解码器，提速显著且质量损失小，核心优势多，技术路线全链路优化，实测表现优。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
NVIDIA技术沙龙 《大规模EP优化：PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记，介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新，还对比多模型架构，展示推理服务架构性能特点与优化策略，以及各技术工作流程和效果。
告别单打独斗！ClawTeam-OpenClaw 一键 spawn 整个 AI 开发团队
ClawTeam-OpenClaw 是多代理协调框架 OpenClaw 深度适配版，让 AI 代理自动组队协作。它有一键 spawn 团队、智能任务依赖管理等功能，在科研、开发、投资分析场景优势明显，介绍了使用方法和项目地址。
下一代搜索：通过 MCP 实现 AI 与 OpenSearch 的融合
本文探讨 MCP 如何在 AI 代理和 OpenSearch 间建桥梁，创建智能搜索应用。介绍搜索从关键词到代理的演变，还通过电商、可观测性等场景演示代理搜索实践，显示 MCP 与 OpenSearch 结合能带来上下文感知的智能数据访问体验。
Anthropic 推出 MCP 隧道，供私有代理访问内部系统
Anthropic扩展Claude Managed Agents平台，推出自托管沙箱和MCP隧道功能。自托管沙箱公测，支持多服务商运行工具；MCP隧道处研究预览，可让代理连私有MCP服务器，满足企业管控需求。