「自适应推理框架」共找到 3370 篇相关文章
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。
告别玄学选LLM！弗吉尼亚理工选型框架入选ICML 2025
弗吉尼亚理工大学研究人员推出选型框架LensLLM，可预测微调后性能走势，解释大模型微调“玄学现象”。它基于全新PAC - Bayes泛化界限推导，降低成本近90%，被ICML 2025收录。
MIDAS：快手可灵发布实时交互式数字人生成框架
近年来交互式数字人视频生成受关注，但实时处理多模态输入有挑战。快手可灵团队提出MIDAS框架，基于LLM驱动的自回归模型，结合轻量级扩散头，实现低延迟、交互式多模态控制，还构建大规模数据集等。
SceneWeaver：面向通用三维环境生成的反思型智能体框架
室内场景合成在具身智能兴起下愈发重要，现有方法存在局限。BIGAI提出SceneWeaver框架，通过基于工具的迭代优化统一多样场景合成范式，具有高保真模拟、强健物理交互等优势。
微软：DeepSeek-R1等推理模型循环的原因找到了
前几天，DeepSeek - R1论文更新，披露诸多细节。重点是推理模型在低温/贪心解码下易循环，根源是学得不对，如风险规避式复读、时序相关错误复读，还给出解决方案。
开源多智能体开发框架：支持MCP、Agent SDK，超2000颗星。
著名企业孵化器Y Combinator支持的开源多智能体开发框架Rowboat，支持MCP服务和Agent SDK，几分钟就能开发复杂智能体工作流。它由Agent、Playground、Copilot组成，还支持创建面向用户的助手，在Github超2000颗星。
蚂蚁开源 Ring-1T，成就推理、编程、通用智能三冠王
蚂蚁开源团队推出 Ring-1T 模型，它结合强化学习与多阶段推理机制，实现从‘模仿’到‘思考’的转变。该模型在多基准测试表现优异，其高性能得益于 IcePop、C3PO++、ASystem 三项关键技术。
字节开源"超级AI员工"框架，发布即登GitHub Trending第一！
字节跳动火山引擎开源 DeerFlow 框架，2.0 版本发布即登 GitHub Trending 第一。它是超级智能体 harness，能让 AI 真正执行任务。有 Sub - Agents、Skills 等核心能力，对模型无强绑定，还介绍了使用方法。
DeepSeek秘密造芯！专攻推理，一年前已启动，招聘全程不公开
路透社消息，凭借算法震动硅谷的中国AI公司DeepSeek正秘密开发自研AI芯片，定位推理，项目约一年前启动，现处早期。全球模型公司自研芯片成趋势，虽挑战大，但DeepSeek有资金支撑。
Agent能自己“复盘”和“进化”，这个开源框架牛了！
文章介绍了自进化AI，其核心是执行、评估、进化的反馈循环，能自动修改Prompt和工作流。还讲解了SEW、TextGrad等优化器原理，并以SEW为例展示逻辑，最后推荐开源框架EvoAgentX。