「GPU资源争夺」共找到 842 篇相关文章
英伟达再破世界纪录,每秒1000 token!刚刚,全球最快Llama 4诞生
英伟达用Blackwell创下AI推理新纪录,单节点8颗GPU实现Llama 4 Maverick模型每秒单用户生成1000个token。这得益于技术组合拳,如用TensorRT - LLM优化、应用FP8格式等,满足了低延迟需求。
1B 参数跑出 2B 性能?面壁 MiniCPM5-1B 用 AI 自进化,提速 AGI 进程
全球AI行业陷入资源消耗战,面壁智能绕开物理瓶颈,提出“AI制造AI”路径。2026年5月25日发布MiniCPM5-1B,有越级性能、极致压缩比和均衡能力,源于“模型、框架、数据”自进化范式。
当黄仁勋反复提起OpenClaw,他到底在焦虑什么?|甲子光年
美国当地时间3月18日,「甲子光年」参加英伟达黄仁勋在GTC 2026的媒体会。黄仁勋多次提及OpenClaw,认为它很重要。英伟达不仅造GPU,还构建AI工厂,试图成为新计算秩序定义者。
从金融本位到物理本位,真正的范式转移开始了
过去几十年,人们认为增长可由货币政策调控,但如今瓶颈转移。马斯克描述的闭环体现从“金融本位”到“物理本位”的范式转移,科技巨头已按此逻辑行动,锁定物理资源。
浙大联合阿里云发布首篇 Token Economics 综述 :用经济学重新理解 LLM Agent 的 Token 世界
浙江大学联合阿里云发布综述论文,提出Token Economics框架,从经济学视角理解LLM Agent中Token使用与资源分配。梳理关键问题,构建分类体系,还指出未来发展趋势与新兴机会。
Sora 为什么输给 Codex?
本文探讨Sora输给Codex的原因。奥特曼称因Sora太吃compute,Codex优先级更高。Sora算力连续独占,成本难摊薄;Codex算力碎片可复用,能交错服务多任务,资源回报曲线更好。
MemOS:一种用于 AI 应用的记忆操作系统
大型语言模型缺乏记忆管理系统,限制其发展。MemTensor与高校联合开源MemOS,它将记忆视为可管理资源,有三层架构,系统化三种记忆类型。评估显示其在推理、检索、加速等方面表现优异。
网易游戏 Tmax 平台实践:基于 Fluid 的云原生 AI 大模型推理加速架构
网易游戏打造 Tmax AI 机器学习平台,但大模型推理业务规模爆发带来资源弹性等挑战。经评估,选用 Fluid + AlluxioRuntime 构建三层架构,有自动预热等配置,带来性能、成本等多方面收益。
告别天价API账单!开源Chatterbox语音服务器上线,隐私与效率双赢!
第三方语音合成API成本高、有隐私风险,直接部署开源模型配置复杂。开源的Chatterbox-TTS-Server基于Chatterbox TTS模型,有Web界面、声音克隆等功能,支持GPU和Docker,可解决部署难题。
超760万元奖金悬赏,谁能徒手重构 DeepSeek 与 Kimi 的性能底层?
在大模型工程化需求下,AMD 联手 GPU MODE 发起 2026 线上黑客松:AMD E2E Model Speedrun 全球挑战赛,豪掷 110 万美元。大赛分预选赛和决赛,各设丰厚奖励,目前预选赛已进入倒计时。