搜索：多Agent并行推理

「多Agent并行推理」共找到 4649 篇相关文章

RTP-LLM 在相关性大模型中的推理优化最佳实践

淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。

传统知识图谱只能用三元组描述世界，难以应对真实科学场景里的多体交互。作者提出将文献里n元关系存成超图超边，让LLM在多智能体框架里‘沿着超边走路’，并构建了超图进行实验，实现可验证的科学发现。

作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。

上周智谱多模态开源周，从GLM 4.6v到Autoglm，其图文并排使用场景很吸睛。上传PDF论文，它能生成图文混排解读文章，效果好。作者逆向原理复刻代码，还分享GLM 4.6V三个有意思的能力。

本文是Anthropic官方文章翻译，从提示词工程拓展到上下文工程，阐述其构建方法。介绍上下文工程对构建智能体的重要性、上下文构成，还提及上下文检索、智能体搜索及长期任务的上下文工程解决方案。

高通发布全球最快Windows PC处理器骁龙X2 Elite系列、全球最快移动SoC处理器第五代骁龙8至尊版移动平台。高通CEO安蒙提出对AI趋势的六大理解，新芯片在性能、功耗等方面有显著提升。

华为技术团队发布综述论文，首次系统性梳理利用强化学习（RL）训练强大的深度研究代理。论文指出传统SFT和DPO方法有局限，RL优势明显，还在数据构建、算法设计等方面给出进展与路线图。

在 WAVE SUMMIT 2025 大会上，百度发布文心大模型 X1.1，是 X1 升级版，发布即上线可免费体验。它在事实性、指令遵循、智能体等能力显著提升，全方位测评表现出色，还开源新模型，展现百度全栈 AI 实力。

传统移动设备自动化工具难实现自然语言控制和跨应用交互，开源项目Mobile - Use提供解决方案。它由Minitap AI开发，能通过自然语言指令实现设备UI感知自动化，功能丰富，应用场景广。

今天凌晨，Xcode最流行的编程Copilot插件Alex被OpenAI收编，团队加入Codex。Alex是Xcode亮眼插件，能实现自动化开发任务。其创始人是00后，经验丰富。OpenAI此举或为扩大在苹果生态影响力。