「上下文消耗」共找到 788 篇相关文章
Token成本下降，订阅费却飞涨，AI公司怎么了？
文章指出，虽模型训练成本下降，但 AI 公司运营成本尤其是推理费用猛增。以固定费率订阅和高 token 消耗的商业模式的公司面临困境，如 Windsurf、Claude Code 等，还给出避免亏损的三条出路。
更可靠的主播助理：淘宝主播Agent的Harness工程实战
文章聚焦淘宝主播Agent的Harness工程实战。介绍了Harness基础定义与分层结构，阐述上下文工程、工具调用等八项实战内容，还提及记忆体系特色，强调Harness工程是让主播Agent可用、可控、可演化的关键。
万帧实时！流式3D重建天花板，被国产开源模型打破了
蚂蚁正式开源 LingBot-Map，这是基于几何上下文 Transformer 的纯自回归流式 3D 重建基础模型。它能在恒定内存下实现超万帧长视频实时三维重建，处理速度约 20 FPS，在多基准测试中超越现有流式方法。
快手 AB 场景提速 145 倍，从 Spark 到 Apache Doris 的加速实践
快手 AB 指标生产场景从 Spark 切换到 Doris 提速 145 倍、资源消耗降 72%，刷新 Doris 单机群最大规模。本文介绍选择 Apache Doris 的原因，以及在存储、计算、调度、稳定性等方面的优化，对构建 AB 实验平台有参考价值。
重塑记忆架构：LLM正在安装「操作系统」
现代大型语言模型（LLM）存在「记忆缺陷」，难以维持长期记忆。近期关于大模型记忆的研究增多，如 MemOS 等。文中介绍了长上下文处理能力与记忆的关系、记忆类型，以及实现 LLM 记忆的多种方法和相关研究成果。
Claude新政，抛弃最忠实的Agent用户
6月15日起，Anthropic将Agent SDK用量从订阅中剥离，按API零售价另给固定额度，重度用户可用量缩水近十倍。OpenAI趁机推出Codex企业免费迁移。这是ASI决赛圈定价战，AI付费或转向按实际消耗计费。
推理快30%，性能超过千亿参数模型，15B模型Apriel-1.6重新定义端侧推理
ServiceNow人工智能团队发布的Apriel-1.6-15b-Thinker，以150亿参数体量，多模态推理能力强，推理Token消耗降超30%。它在AI分析指数成绩佳，优化计算成本，还介绍了训练策略与多维度性能实测情况。
首个实例理解3D重建模型！NTU&阶越提出基于实例解耦的3D重建模型，助理场景理解
人类能自然感知3D世界的几何与语义，但AI做到“两者兼得”是挑战。NTU联合StepFun提出IGGT，将空间重建与实例级上下文理解融为一体，还构建了InsScene - 15K数据集，解决了传统方法的问题。
「幻觉」竟是Karpathy十年前命名的？这个AI圈起名大师带火了多少概念？
AI大牛Andrej Karpathy是命名大师，“幻觉”一词由他命名，2022年随ChatGPT火起来。他还提出软件2.0、3.0，氛围编程、细菌式编程等概念，转发带火上下文工程，平时推文也让一些问题受关注。
印度裔 AI 负责人删掉 Karpathy 90%遗留代码，马斯克 Robotaxi 终上线！用户体验：不要小费，还可能倒给你钱
当地时间6月22日，特斯拉在奥斯汀启动Robotaxi试点服务。其AI团队核心成员是印度裔阿肖克和德国工程师米兰。技术上精简代码、扩展模型上下文长度，用户体验顺畅，但与马斯克此前设想设计有差异，国内也有多家企业开展此业务。