「系统优化」共找到 2707 篇相关文章
千星项目LLMRouter：多模型路由，16+策略优化推理
UIUC开源智能模型路由框架LLMRouter，可自动为大模型应用选最优模型，有16+路由策略。该框架打通训练、评测等链路，解耦Route与Training模块，支持多轮协同等，还可插件式扩展。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
让 Coding Agent 开始「记住过去」：MemoraX Code 的长期记忆系统
过去一年，Coding Agent 改变开发者写代码方式，但进入长期开发仍会遗忘项目经验。MemoraX Code 试图解决此问题，构建了本地与云端记忆，让关键信息能被识别召回，且在赛事中表现出色，还能沉淀工程经验。
70万辆车同步升级，背后那套系统藏了六年
超70万蔚来和乐道车主收到最新版世界模型推送更新。蔚来用一套代码覆盖多品牌、多平台、多芯片、多传感器车型，其技术体系复杂，从2020年起搭建，六年未改底层逻辑，如今效果显现。
无需奖励函数！我们意外构建了自我进化的AI系统
牛津大学发现LLM可通过“部署 - 验证 - 再训练”循环自我进化，绕开人工奖励函数设计瓶颈。在三个经典规划领域实验效果惊人，还在理论上证明其与强化学习的数学等价关系，有优势也有隐患。
AEPO：智能体熵平衡策略优化，让探索更稳，推理更深！
中国人民大学与快手团队联合提出 AEPO 算法，解决熵驱动式智能体强化学习训练不稳等问题。它设计两项核心机制，在 14 个基准上优于主流算法，在 X 等平台获高关注。
从 Prompt 到 Context：基于 1400+ 论文的 Context Engineering 系统综述
本文围绕Context Engineering展开，介绍其定义、与Prompt Engineering区别，从LLM OS视角说明其重要性，指出context处理不当的问题，对其分类及处理管理过程进行探讨，还提及面向LLM Context开发的变化。
Kubernetes环境中作业帮大模型服务流量调度优化实践
随着大语言模型应用渐广，Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案，整合成模型网关，具备五项核心功能，提升了资源效率、稳定性和易用性。
领域驱动的 RAG：基于分布式所有权构建精准的企业知识系统
银行技术供应商为解决文档和专业知识获取难题，探索用 RAG 技术，严格将 AI 作咨询工具。重新分配 RAG 实施所有权，采用元数据方法，探索伸缩性解决办法，构建完整应用并评估性能，结果令人振奋。
Moltbook 指数级异变，人类文明系统彻底崩盘！「未来简史」终章降临
著名人类学者赫拉利警告，AI攻破人类语言防线将接管人类文明。Moltbook出现证明AI掌握语言，2030年AI、合成现实、神经连接三大革命或颠覆人性，人类核心竞争力被瓦解。