资源管理」共找到 902 篇相关文章

算法论文8

Agentic RL 后训练资源怎么分?港中文、恒生大学提出 Libra,吞吐最高提升 3 倍

大语言模型走向“完成任务”,Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统,统一优化训练与 rollout,在多任务中提升吞吐,论文与代码已公开。

机器之心
推荐文章8

Kimi 大模型训推混部的稳定性与资源优化实战

月之暗面系统工程师黄维啸在 QCon 大会分享 Kimi 大模型训推混部实践。介绍了训推集群挑战,如故障多、资源利用低等,还阐述了全链路稳定性提升、资源高效利用及强化学习混合部署等方案。

InfoQ
产品应用7

新版 Android 插件登场,应用能瘦身 50%,Google 把代码优化和资源压缩合二为一

Google在新版Android Gradle Plugin引入资源压缩优化方案,合并代码优化与资源压缩。新方案让应用体积最高缩减50%,开发者有四种优化方式可选,AGP 8.12.0已提供该流程,AGP 9将默认开启。

InfoQ
算法论文8

以「图」破局,HyperOffload定义超节点存储管理新范式

随着生成式AI进入万亿参数时代,大语言模型面临“显存墙”挑战。上海交大与华为MindSpore团队发布技术报告《HyperOffload》,其核心技术集成于MindSpore 2.8,能提升超节点异构资源协同效率,已在多项目落地。

机器之心
算法论文8

北大联合阶跃星辰提出TensorCast:统一可编程管理大模型张量,推理「首字延迟」最高降低93.2%

随着模型规模增长、新应用兴起,大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast,解耦张量状态,复用管理能力,在多场景测试中表现出色,为大模型基建提供新范式。

机器之心
新闻资讯7

双“雷”暴击!Trae 被曝资源黑洞、Claude背刺超级付费党,开发者们被“刀”惨了

主打“自动化执行、多模型调用、上下文记忆”的AI编程应用大热,但也出现运行卡顿等问题。Trae被曝过度消耗资源,Claude Code对付费用户增加调用限制,凸显AI产品资源问题及厂商成本管控困境。

AI前线
开源动态8

MemOS:一种用于 AI 应用的记忆操作系统

大型语言模型缺乏记忆管理系统,限制其发展。MemTensor与高校联合开源MemOS,它将记忆视为可管理资源,有三层架构,系统化三种记忆类型。评估显示其在推理、检索、加速等方面表现优异。

PaperAgent
推荐文章8

小红书 FinOps 实践:云成本优化与资源效率提升之道

在 InfoQ 举办的 QCon 全球软件开发大会上,小红书梁啟成分享云成本优化实践。介绍了小红书用云情况,分析成本优化面临的问题,阐述成本洞察和优化的探索,如内外账分离、CPU 和 GPU 资源提效等,还展望了 AI for FinOps 实践。

InfoQ
产品应用7

Moltbot实战:MoltBot+RDS AI助手Skill管理RDS实例

文章介绍Moltbot与阿里云RDS AI助手结合管理RDS实例。RDS AI助手能集数据库管理等为一体,Moltbot以轻量级框架霸榜GitHub。二者组合有自动化诊断和运维管理能力,还能定制运维知识库,文中给出对接步骤。

阿里云开发者
新闻资讯7

双“雷”暴击!Trae 被曝资源黑洞、Claude背刺超级付费党,开发者们被“刀”惨了

AI编程应用大热,但运行卡顿、资源消耗惊人等问题随之而来。Trae被曝过度消耗资源,Anthropic宣布Claude Code对付费用户增加调用限制,反映出AI产品资源问题影响厂商和用户。

InfoQ