搜索：低算力需求 - AI Reading Hub

「低算力需求」共找到 2327 篇相关文章

多模型共享 GPU 内存，Berkeley 开源新工具

GPU内存利用率低是大模型部署痛点，伯克利Sky Computing Lab团队开源kvcached工具，通过虚拟化技术让多模型共享显存。它引入虚拟内存概念，按需分配，测试显示能提升效率，安装简单、兼容性好。

MiniMax上新视频生成模型Hailuo 02，解决了AI视频生成中体操难题。该模型原生支持1080p，能处理极端复杂物理场景，实测文生、图生视频能力出色，成本创新低，MiniMax本周还有多项技术布局。

近日，Hermes Agent 在国内爆火，获超 3.9 万 stars。它是单 Agent 架构，核心是学习循环，记忆分层管理。其网关功能强大，状态可跨会话留存。背后的 Nous Research 目标是打造抗衡 OpenAI 的开源模型，还引入区块链解决算力问题。

文章探讨大模型API Hub低价卖Token现象，指出低价出售的常是闲置算力等。分析厂商不官网降价原因，介绍第三方低价来源及Hub盈利途径，给出判断低价Hub能否用的检查清单。

‘死了么’APP 爆火并更名 Demumu，虽开发成本低却估值达 1 亿。此前有数据分析师曾用 AI 5 分钟复刻其海外版。该 APP 由三名 95 后开发，现下载量猛增，还面临竞品挑战。

高盛《Powering the AI Era》报告指出，AI是基础设施革命，其最大瓶颈是电力和资本。如一座250MW数据中心成本达120亿美元，2030年全球数据中心电力需求将激增，还介绍了应对办法及相关细节。

前谷歌DeepMind资深研究员Dustin Tran加盟xAI，他是Gemini共同创造者，助谷歌追回AI风口。Tran介绍跳槽原因，涉及算力、数据和认同马斯克理念，还补刀OpenAI点子库存见底。

腾讯开源智能体构建框架 Youtu-Agent，灵活高性能，验证性能出色，开源友好成本低。有自动智能体生成等亮点，适用于不同用户群体，涵盖研究、开发等场景，还介绍核心概念，附项目地址。

DeepSeek 去年末以低成本训练出先进开源大模型引关注，近日团队披露构建 DeepSeek - R1 和 DeepSeek - V3 的软硬件方案，降低内存和计算需求，其细节公布让更多团队有机会参与前沿研发。

文章指出生成式AI改变软件开发方式，LLM在编码领域成果显著。但AI辅助编码有局限，如‘70%问题’。还介绍有效模式，提及软件工程智能体兴起，最后认为未来对经验丰富工程师需求或增加。