「运行成本」共找到 2009 篇相关文章
AI 本地跑？Google 新开源模型上线，本地量化后占用不到 200MB 内存，支持百余语言
Google DeepMind推出开源嵌入模型EmbeddingGemma，专为本地设备高效运行设计。它用Matryoshka方法和量化感知训练，提升效率。在MTEB测试中成绩佳，支持百余种语言，内存占用少，已集成多种工具。
The Batch: 928 | 无人机袭击波斯湾数据中心
伊朗无人机袭击中东三个亚马逊数据中心，致在线服务中断。美国军方用 AWS 运行 Claude 等系统。AI 在战争中作用上升，加速决策但也带来致命错误风险，作战节奏向“机器速度”转变。
融资 1200亿后 Kimi 再扔王牌，新架构爆改 Transformer 老配件，比 DeepSeek 同款还省钱
Kimi 发布新论文，提出“注意力残差”架构改进 Transformer 残差连接，解决“稀释问题”，让 AI 更聪明、更省钱，还推出“分块注意力残差”优化成本。与 DeepSeek 方案对比，Kimi 方案性价比更高。
网易游戏 Tmax 平台实践：基于 Fluid 的云原生 AI 大模型推理加速架构
网易游戏打造 Tmax AI 机器学习平台，但大模型推理业务规模爆发带来资源弹性等挑战。经评估，选用 Fluid + AlluxioRuntime 构建三层架构，有自动预热等配置，带来性能、成本等多方面收益。
代码暴减99%！港大开源“纳米级OpenClaw”，仅4000行代码复刻OpenClaw核心战力！
香港大学数据智能实验室开源“纳米级 Clawdbot”Nanobot，代码仅 4000 行，复刻 OpenClaw 核心功能，瘦身 99%。它具备成熟智能体能力闭环，学习成本低，自带四个实用模板，支持一键安装。
Transformer作者：DeepSeek才有搞头，OpenAI指望不上了
Transformer发明者Ashish Vaswani认为OpenAI等闭源厂商被商业化冲昏头脑，没心思做基础研究。他All in基础研究，坚持开源路线，想打造西方世界的DeepSeek。其团队论文提出颠覆性观点，或降低训练成本。
马斯克狂烧14万亿，5000万H100算力五年上线！终极爆冲数十亿
马斯克宣布5年内实现5000万张H100的算力，成本超2万亿美元。他已有Colossus超算集群，Grok系列模型也展现强大实力。目前Colossus 2在分批落地，供电采取多元化措施。
亚马逊发布新AI大模型，部署机器人突破100万
全球电商、云计算巨头亚马逊宣布推出新AI基础大模型Deep Fleet，部署机器人超100万。该模型可提升机器人车队出行效率，还能协调机器人移动，带来交付快、成本低等好处。
告别天价API账单！开源Chatterbox语音服务器上线，隐私与效率双赢！
第三方语音合成API成本高、有隐私风险，直接部署开源模型配置复杂。开源的Chatterbox-TTS-Server基于Chatterbox TTS模型，有Web界面、声音克隆等功能，支持GPU和Docker，可解决部署难题。
微软将弃用Claude：太贵了还是薅明白了？
微软从6月30日起叫停内部工程师使用Claude Code，或因成本高，也可能是借其补足Copilot CLI短板。背后反映微软在大模型时代面临模型、开发者、生态控制权等困境，产品竞争力不敌对手。