「子代理并行」共找到 595 篇相关文章
Anthropic、OpenAI、谷歌和微软都认为智能代理控制层是产品,但在定价上存在分歧
近期,Sycamore获6500万美元种子轮融资用于构建自主企业级AI操作系统,Anthropic、OpenAI等也有动作。各实验室都认可智能代理控制层是产品,但在定价和交付模式上分歧明显。
ICML 2025 Oral!北大和腾讯优图破解AI生成图像检测泛化难题:正交子空间分解
OpenAI推出GPT - 4o图像生成功能,AI生图安全挑战凸显,区分生成与真实图像成难题。北大与腾讯优图研究人员用正交子空间分解解决AI生图检测泛化难题,论文被ICML 2025接收。
Sglang 源码学习笔记(三)- 分布式和并行(以deepseek 为例)(WIP)
文章是 sglang 源码学习笔记,聚焦分布式和并行,以 deepseek 为例。介绍通信域类型,分析 ZMQ 和 torch.dist 通信,阐述 TP、DP、EP 实现,包括初始化、使用等,还涉及不同 Linear 层 TP 及 MoE 不同实现情况。
告别大模型“失忆”!人大开源MemSifter:轻量代理先思考再回忆,搞定长时记忆
中国人民大学团队提出全新LLM记忆管理框架MemSifter,打破长时记忆管理‘精度不够’和‘成本太高’的困局。它将记忆检索‘外包’给轻量级代理模型,采用任务结果导向的RL训练范式,在8个基准测试中超越现有SOTA方案。
告别大模型“失忆”!人大开源MemSifter:轻量代理先思考再回忆,搞定长时记忆
当前大语言模型在长周期任务中,长时持久记忆管理陷入“精度不够”和“成本太高”的两难困境。中国人民大学团队提出MemSifter框架,将记忆检索工作外包给轻量级代理模型,在8个权威测试中超越现有方案,且已开源。
自回归因果注意力也能并行解码?上交联合UCSD突破LLM推理瓶颈,模型代码全开源
大语言模型推理速度是应用瓶颈,传统方法各有弊端。上交和UCSD团队提出Jacobi Forcing方案,无需重构架构,将AR模型转为并行解码器,提速显著且质量损失小,核心优势多,技术路线全链路优化,实测表现优。
成立半年连续获数千万融资,智子芯元凭什么卡位国产算力生态?|甲子光年
智子芯元成立半年获数千万天使轮融资。国产AI算力生态面临适配难题,该公司用“AI+运筹”解决。其核心技术“运筹学x大模型”,自研KernelCAT引擎,实现多场景高效交付,具泛化性。
8B模型可以超过GPT-4o!并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈,作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新,能让 8B 模型性能达 GPT - 4o 的 91.17%,特定任务超 GPT - 4o。
Anthropic发布多Agent协作模式指南:5种架构与适用场景
当单个AI Agent无法完成任务时,多Agent系统就派上了用场。Anthropic最新发布的指南给出了五种经过验证的模式,包括生成 - 验证模式、编排 - 子代理模式等,并介绍了适用场景和陷阱。
Claude Code 最佳实践:从「能用」到「用得好」的 15 个关键技巧
GitHub热门仓库‘claude - code - best - practice’拆透Claude Code用法。本文提炼其精华,结合经验给出实操指南,涵盖上下文管理、CLAUDE.md设置、子代理等15个关键技巧,助你用好Claude Code。