「算力消耗」共找到 895 篇相关文章
如何利用pytorch memory snapshot进行显存分析
文章聚焦于用pytorch memory snapshot分析模型训推显存消耗，不讨论工具使用，侧重解读记录内容。以混合精度训练为例，介绍各步骤显存管理细节，还给出单层、双层模型及zero1训练的显存分析。
神秘模型排名超 Gemma 4 31B：不跟 Qwen 硬刚，主打“快”和“省 token”
OpenRouter的Elephant模型Trending榜排名超Gemma 4 31B。它是100B参数隐身模型，主打‘智能效率’，在速度、token消耗、指令遵循等方面与其他100B级别模型对比各有优劣，代表极致轻量路线。
最强开源0.9B级OCR模型！本地Agent、知识库都有救了！
百度飞桨PaddleOCR团队开源多模态文档解析模型PaddleOCR-VL，参数量仅0.9B，对算力要求低。它在OmniDocBench V1.5榜单屠榜，经测试，能精准识别发票、图表等，适合本地环境与资源受限设备。
2026年OpenAI最看好的3个方向
OpenAI首席财务官与投资人聊2026年AI趋势，涉及多智能体登场、算力换收入、大模型能力突破等。还谈到对医疗、具身智能行业变革影响，破除AI泡沫说法，预测机器人行业前景等。
云计算一哥10分钟发了25个新品！Kimi和MiniMax首次上桌
亚马逊云科技CEO在re:Invent 2025上10分钟发25个新品，2小时近40个。围绕AI Agent，从算力到模型、平台、应用全面布局，还引入中国Kimi和MiniMax，构建全栈壁垒，助力企业用好AI。
山姆•奥特曼刚发长文：《丰盛的智能》，智能将人人可及
Sam Altman 发布新博文《Abundant Intelligence》，展现 OpenAI 的 AI 基础设施愿景。他认为获取 AI 将成经济驱动力甚至基本人权，还提出每周产一吉瓦 AI 基础设施工厂的计划，称增加算力是增收关键。
深入剖析AI公司正在面临的：「囚徒困境」
文章指出AI模型训练成本虽下降，但运营成本尤其是推理费用飙升，使AI公司陷入两难。用户只青睐最强模型，且模型资源消耗远超预期，订阅模式难以为继，还给出了避免亏损的三条出路。
Token成本下降，订阅费却飞涨，AI公司怎么了？
文章指出，虽模型训练成本下降，但 AI 公司运营成本尤其是推理费用猛增。以固定费率订阅和高 token 消耗的商业模式的公司面临困境，如 Windsurf、Claude Code 等，还给出避免亏损的三条出路。
DeepSeek重磅开源3B OCR模型，一天处理20万页文档！一天内斩获6K标星！
DeepSeek开源3B OCR模型DeepSeek - OCR，参数量仅30亿，单张A100 - 40G一天能处理20万页文档，不到24小时获6K标星。它是视觉压缩引擎，解决大模型处理长文本算力爆炸问题，有诸多技术亮点。
微软开源3大突破AI Agent模型，仅140亿参数超越DeepSeek-R1
微软研究院开源AI Agent推理模型rStar2-Agent，140亿参数在多测试超6710亿参数的DeepSeek-R1。其通过智能体强化学习，在训练基础、算法、流程上有三大突破，显著提升性能且降低算力成本。