推荐文章9

用Agent优化SGLang 性能大幅提升

GiantPandaLLM2026-09-24

AI 摘要

BBuf分享：让Agent配合工程环境与预设技能完成SGLang全流程性能优化，多场景实测获得最高34%延迟下降，搭配百度百舸Token双流，吞吐最高可提升30%。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Kimi K3 开放权重：总参数达 2.8T

月之暗面发布 Kimi K3 技术报告并开放权重，总参数达 2.8T（激活 104B），支持 100 万 token 上下文，主攻 Agent 持续运行数小时的长任务系统改造。

指导智能体（Agent）执行复杂任务的关键在于明确验收标准与安全边界。文章整理了定义完成条件、维护长任务清单等 12 条实用规则，并提供了提示词骨架模版。

DeepSeek开源了支撑自身大规模推理服务的框架DeepInfer与配套token编解码组件deepseek-recipe，披露的吞吐量数据经计算得出大模型API毛利率达82%，引发AI行业对盈利性与推理优化的广泛讨论。

本文报道2026物理AI与世界模型大会上爱思科技的创新物理AI成果，其自研Agnes Harness框架可通过自然语言指挥多设备协同，具备双进化能力，探索AI落地产业路径。