搜索：大模型Agentic推理框架

「大模型Agentic推理框架」共找到 9822 篇相关文章

180亿深圳芯片黑马，华为猛下单

4月25日晚，云天励飞公告2024年营收超9亿，同比增81.3%，截至4月28日收盘市值超180亿。该公司以‘算法芯片化’为基础，在推理算力、行业赋能、消费级业务均有布局，还与华为等合作。

大模型强化学习后训练中，rollout预算易成瓶颈，且并非所有rollout都有用。清华和腾讯研究者提出TRACE框架，将Agent轨迹视为树，分配预算给易产生“成功/失败对比”的节点，实验显示其效果良好。

Anthropic在官方文档上线Claude 4.x提示工程指南，针对4.5系列模型优化。介绍基本原则、长期推理和状态跟踪方法、沟通风格，还给出特定场景指导及迁移考虑，助你发挥Claude 4.x实力。

大型语言模型在数学竞赛级任务依赖机械化推理，现有评测集有缺陷。UC Berkeley团队提出OMEGA基准量化其数学泛化能力，实验揭示复杂度引发性能崩塌等问题，指出LLM创新组合难，给出改进方向。

资深工程师 Daisy Hollman 在演讲介绍了 Claude Code 插件设计与上下文工程原语，以及 Anthropic 内部多 Agent 工作流。指出定制模型可放大能力，上下文窗口是关键，还探讨多种插件抽象与工作流扩展方式。

一个叫「caveman」的Claude Code插件在Hacker News爆火，冲破2w星。它核心是条prompt，删掉冠词等废话，号称省75%输出token。但它不压缩模型后台推理token，真实成本节省存疑。

腾讯提出无训练组相对策略优化Training-Free GRPO，无需调整参数，在提示词中学习经验就能提升模型性能。实验显示，该方法在数学推理和网页搜索任务上效果显著，成本远低于传统方法。

BISHENG是来自中国团队、获10.3K+ Star的开源LLM DevOps平台，被大量头部企业采用。它有通用Agent、AI工作流等功能，解决复杂业务逻辑编排等痛点，且开源代码与业务案例。

AI Agent开发易陷入复杂维护困境，借鉴云原生思路，一些云原生产品朝着AI gateway进化。介绍开源项目Arch Gateway，它是AI原生gateway，具备智能路由、工具调用等能力，能让开发者专注核心业务逻辑。

本文报道Meta推出独立个人AI助手Muse，上线两周登顶美国iOS应用商店免费榜，累计下载超250万次。Meta调整AI战略转向个人AI Agent赛道，依托社交网络与可穿戴硬件底牌冲击个人计算入口，同时面临多重竞争。