「token使用量」共找到 2407 篇相关文章
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
AI Agent时代的「AWS」：Manus 背后的重要功臣 E2B 是何来头？
文章介绍 E2B 这一开源基础设施，它为 Manus agent 提供虚拟电脑支持，允许在云端安全沙盒运行 AI 生成代码。其沙盒月创建量一年增 375 倍，CEO 目标是成 AI Agent 时代的 AWS，还探讨了 AI Agent 相关问题。
刚刚，阿里发布最强推理模型Qwen3-2507，用疯狂一周暴击美国AI行动计划！
美国发布AI行动计划，欲成“世界AI冠军”，但阿里在7月22 - 25日三连发，推出Qwen3 - 235B非思考版本、Qwen3 - Coder、Qwen3 - 235B - A22B - Thinking - 2507推理模型，冲击美国计划。千问3在多领域表现出色，不过也有使用费用等小问题。
上新：Cache-DIT 支持LTX-2模型
作者和DefTruth在Cache-DIT上支持了LTX-2模型，记录适配关键点，包括模型侧、框架侧适配。介绍LTX-2特点，如支持T2V/I2V、输出带音频，还说明Cache-DIT加载区分T2V/I2V方法及cache侧修改内容，最后给出使用示例。
RL在Agentic Reasoning中的作用：拨开迷雾，看清本质
近年大语言模型在推理任务能力惊人，但使用外部工具存挑战。传统SFT无法让模型自主调用工具，强化学习虽被引入，但在智能体推理中面临训练效率、稳定性和泛化能力难题。论文从多维度解构智能体强化学习，提出有效方法。
飞轮“倒转”，灵巧手厂商困在夹缝里
2024年具身智能焦点转向灵巧手，初创公司遭上下游夹击。技术远未成熟价格战却已升级，投资者押注最AI、最像人手、最早量产。但智能不足、应用场景不明确，降本成唯一共识，行业陷入“降本缺规模”死循环。
曝GPT-5.5用上「全球最快芯片」，Claude慌了！
新智元报道，OpenAI的GPT - 5.3 - Codex - Spark用Cerebras的WSE - 3芯片达2000 token/秒。Cerebras CFO称在跑GPT - 5.4和GPT - 5.5，但SemiAnalysis报告指出其跑大模型有短板，且公开云模型小、上下文短。
xAI解散，但Grok还在上新，马斯克官宣新模型
xAI 解散、大批成员离职后，马斯克透露 Grok 最新模型进展，参数量 1.5T 的 Grok V9 - Medium 已完成训练，预计两到三周内发布。他还宣布现有 0.5T 模型年底前开源，此外首款编码智能体 Grok Build 也备受关注。
Vibe Coding“血洗”开源，社区吵翻了：封杀菜鸡 AI 开发者？不如给维护者打钱！
多位研究人员在预印本论文中指出，氛围编码或摧毁开源生态，使官网访问量下滑、社区论坛使用量骤减。研究称要维持开源规模需改革维护者报酬方式，同时分析了其对开发效率、开源软件可持续性的影响，社区对此看法不一。
突发！Fable 5.1遭黑客破解，27万字提示词泄露
Fable 5.1和Mythos 5.1发布，Fable 5.1推理成本低32%。但发布几小时后被破解，27万字提示词泄露，曝光了其安全限制、隐私保护等秘密。它工具增加，还破解密码、能完成多种任务，不过也有用户抱怨耗token等问题。