「按Token计费」共找到 896 篇相关文章
超长 Agent 任务如何不崩盘：Claude Code 上下文管理机制深度拆解。
文章深度拆解Claude Code上下文管理机制，包括七类上下文、预算与告警、加载、卸载机制等。指出其是分层缓存与多级预算管理系统，还为长任务Agent开发者提供了管理启示。
把 RAG 做成主流的公司，现在开始“做空”RAG 了
向量数据库开创者 Pinecone 宣布 RAG 时代结束，推出面向 Agent 的知识引擎 Nexus。它认为当前 RAG 模式脆弱、缓慢且昂贵，提出“知识编译”概念，称能提升任务完成率、降低 token 开销，虽面临质疑，但方向明显。
Anthropic、OpenAI、谷歌和微软都认为智能代理控制层是产品，但在定价上存在分歧
近期，Sycamore获6500万美元种子轮融资用于构建自主企业级AI操作系统，Anthropic、OpenAI等也有动作。各实验室都认可智能代理控制层是产品，但在定价和交付模式上分歧明显。
两小时激辩：黄仁勋为什么不怕 TPU、不怕华为、不怕出口管制？
黄仁勋接受长达两小时专访，谈及Nvidia使命、经营哲学等多方面。他认为能源政策制约未来，CUDA优势在于生态等，还谈了对TPU、出口管制等看法，不过其观点存在矛盾待检验。
阿里云飞天企业版X平头哥“真武”芯片，推理性能跃迁13倍，底层逻辑是什么？| Q推荐
过去几年，模型虽强但使用成本高，阻碍企业级AI深度应用。今年‘模型推理’成AI关键词，4月13日19:00，InfoQ联合阿里云邀专家围绕推理加速底层破局展开对话，探讨算力博弈、芯片性能跃迁等问题。
Claude Code一周份额，一天就烧完一半？有人逆向工程发现了7个bug
Claude Code在快速更新中问题频发，如思考深度大幅下降，还存在7个叠加的bug，浪费用户token配额。开发者给出应对建议，新版本增加账单透明度和缓存过期提醒，该工具正面临信任危机。
“代码 + 编译器”要消失了？马斯克在 xAI 全员会上放话：到今年年底，AI 或将直接生成二进制
xAI 近期出现离职潮，马斯克公开 45 分钟全员大会视频回应。他表示离职是阶段适配问题，强调速度是当前唯一优先级。还公布新架构，涉及 Grok、编程、图像视频、MacroHard 四条线，并预测 AI 未来发展，如年底或直接生成二进制。
The Batch: 899 | 更划算的推理
研究人员提出 Delethink 强化学习方法，训练大模型定期截断推理 token 至固定最大数量，以限制处理长思维链成本。经测试该模型在多方面超基线，且缓解计算成本限制，为长上下文推理提供路径。
CMU&NYU最新工作解释：存储在权重里的“智能”是从哪来的？
论文《From Entropy to Epiplexity》指出经典信息论在AI面前有三大悖论，提出用Epiplexity度量信息。它将数据信息拆为Time - bounded Entropy和Epiplexity，通过神经网络训练近似计算，实验验证其有效性，并给出启示。
Transformers v5 中的分词系统：更简洁、更清晰、更模块化
文章聚焦 Transformers v5 分词系统，介绍分词概念、流程、主流算法，对比 transformers 和 tokenizers 库。着重讲 v5 改进，如架构与词表分离，解决 v4 黑盒问题，还能从零训练专属分词器。