「上下文token」共找到 1207 篇相关文章
Cache Me If You Can：陈丹琦团队如何「抓住」关键缓存，解放LLM内存？
普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长，此前方法难公平比较。团队提出「KV 足迹」指标，改进方法并推出 PruLong 优化内存，节省空间且保性能。
499上门装龙虾的人，开始赚299卸载龙虾的钱了
OpenClaw（龙虾）付费部署火爆后，卸载业务也成大型产业链，遍布多平台。因安全隐患多、烧Token等问题，不少人选择卸载。商家服务分层、价格灵活，甚至还有人盯上教小朋友学龙虾的生意。
团队授权：分散化的架构决策
文章以黏菌创建网络为隐喻，探讨软件团队去中心化架构决策。介绍转型历程，包括重组团队、建立建议流程、创建上下文图等，阐述各环节作用、挑战与收益，强调其能提升决策质量与团队参与度。
Emu3.5：能够原生预测下一状态的多模态世界模型，媲美Nano Banana
北京智源研究院推出多模态世界模型Emu3.5，能原生预测视觉和语言下一状态。用超10万亿token数据预训练，后经强化学习训练。团队提出DiDA提升推理效率，其性能媲美Nano Banana，项目已开源。
GPT-6最大的升级，是每天送你一张免费重置卡。
GPT - 6刷屏，虽不能马上给用户用，但跑分碾压，似被fable5.1逼出。重置义父想出每天送一张重置卡的补偿办法，口碑反转。OpenAI还更新订阅额度限制，token变贵，很多公司开始适应峰谷定价。
一个记忆库，N 个 AI 助手用！mem0 OpenMemory MCP 打通 Cursor/Claude/Windsurf ~
OpenMemory MCP是本地运行的共享记忆系统，基于MCP协议，让多个AI工具共享上下文记忆。它通吃主流MCP客户端，提供标准API，数据私密，有可视化面板且一键安装。官方列举应用场景，虽扩展性待考，但方向值得关注。
一夜之间，Claude Code删掉了80%系统提示词
本周五，Anthropic 技术团队成员 Thariq Shihipar 介绍新一代大语言模型工程趋势变化。Anthropic 发现旧提示词工程范式在新一代强推理模型发布后或过时，新的 Claude.md 应精简，大砍系统提示词后可把特定任务上下文交给 Skill。
用短视频成本生成长视频，字节Seed新注意力机制让计算量降低85%
字节Seed与斯坦福等机构推出新模型，其新注意力机制MoC能让长视频生成计算量降低85%，质量不减且保持连贯性。团队将视频生成定义为上下文检索任务，提出MoC机制并阐述实现方法。
AI 创业怎么做？500+ 技术领导者给出了他们正在实践的答案｜ TGO 杭州十周年庆 & GTLC 杭州站
2026年6月27日，TGO杭州十周年庆·GTLC全球科技领导力大会杭州站举办，近二十位嘉宾从多领域分享。如汪源指出智能体上下文工程是瓶颈，许式伟称AI是企业“外挂”等，还有创业者展示产品。
国产大模型新SOTA：蚂蚁万亿级旗舰模型赶超GPT-5
蚂蚁集团开源万亿参数旗舰大模型Ling-1T，属Ling 2.0家族。它激活比例低降低运算成本，训练有“Ling缩放定律”等方法，多项测试超主流模型，不过处理超长上下文成本较高。