「功耗优化」共找到 1249 篇相关文章
Agentic RL 后训练资源怎么分？港中文、恒生大学提出 Libra，吞吐最高提升 3 倍
大语言模型走向“完成任务”，Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统，统一优化训练与 rollout，在多任务中提升吞吐，论文与代码已公开。
GPT-5.2破解数论猜想获陶哲轩认证！OpenAI副总裁曝大动作：正改模型核心设计，吊打90%研究生但难出颠覆性发现
OpenAI 发布由 GPT - 5.2 加持的科研平台 Prism 并免费开放。OpenAI 副总裁 Kevin Weil 回应入局科研领域问题，称模型能力超 90% 研究生，但难有颠覆性发现，还透露将优化模型设计。
AI牛马实现“干中学”！上海AI Lab联合推出智能体自我进化新框架
上海人工智能实验室等研究者提出MUSE智能体框架，让智能体实现“干中学”。它围绕分层记忆模块，通过先做、再反思、然后进化，解决现有智能体痛点，实验表现出色，还展望了未来优化方向。
清华校友出手，8B硬刚GPT-4o！单一模型无限工具调用，终结多智能体
MIT等机构推出TIM和TIMRUN组合拳，突破模型token天花板。TIM将推理建模为任务树，TIMRUN优化内存管理。二者结合支持长程推理，实现单模型高效推理，简化智能体构建，在多方面表现出色。
从0到1拆解FreeWheel ChatBI：大模型如何重塑视频广告智能数据分析新生态
本文结合 FreeWheel 实际应用经验，分享构建 ChatBI 系统核心实践。介绍其核心功能、技术实践，如让 LLM 理解业务、智能选表等，还提及系统架构、算法服务，最后总结上线效果并展望未来优化方向。
ACL2025 | 代码助手火了，但安全吗？所有模型评估结果都很扎心
近期，GitHub Copilot、ChatGPT等AI代码生成工具爆火，效率显著提升，但代码安全性存疑。北大团队用CoV-Eval评测20款主流大模型，结果不佳，论文还给出优化方向，呼吁代码上线前严格测试。
准确率提升至 90%，阿里商旅基于 AgentScope 构建多智能体差旅助手最佳实践
阿里商旅依托阿里巴巴生态，旗下AliGo差旅助手可实现业务闭环。早期单智能体模式有瓶颈，后基于AgentScope构建多智能体系统，从技术选型、架构设计等多方面优化，事项收集准确率提至90%+，还解决诸多问题并获奖。
LightLLM中DeepSeek V3/R1 Two MicroBatch Overlap 实现解析
文章围绕LightLLM中DeepSeek V3/R1的Two MicroBatch Overlap实现展开。介绍了该技术原理，通过拆分推理过程、精心设计执行顺序实现计算与通信重叠。还阐述了数据结构设计、预处理、核心执行流程，以及优化策略和配置启用方式。
MiniMax 怎么做 Agent：Model-Harness 协同只是第一步，还有 Inference-Harness 协同
本文介绍了 MiniMax 在 Agent 层面的实践。从内部飞书 bot 起步，发展成桌面应用 MiniMax Code，形成训练 - 服务闭环。还阐述 Agent 对模型优化迭代的作用、自研 Agent 优势，指出 AGI 是闭环递归自我改进系统。
推理成本太高、算力不够用？单纯堆卡没用，得靠极致的“压缩”与“调度” | AICon
大模型落地面临推理成本高、算力需求大的问题。AICon大会上，阿里云刘峥、ModelTC龚睿昊、阿里巴巴马腾、OPPO宋晓辉、清程极智汤雄超等专家将分享从压缩到调度的推理优化方案，覆盖云到边缘、多算力平台。