「上下文token」共找到 1207 篇相关文章
刷新世界记录！40B模型+20万亿token，散户组团挑战算力霸权
Nous Research推出Psyche网络，用区块链汇聚全球计算资源，启动40B参数大语言模型Consilience预训练，达20万亿token创纪录。还解决带宽瓶颈等问题，让AI训练去中心化，推动创新与民主化。
不是幻觉！Claude自下指令甩锅人类，百万上下文沦为降智重灾区
Claude深陷「角色混淆」Bug，分不清自己的话与用户指令，长上下文成了降智「重灾区」。开发者Gareth Dwyer记录了该bug，研究发现问题出在底层架构的角色标记缺陷。学术界也关注此问题，整个行业需系统性应对。
代码Agent的苦涩教训！首次拆解上下文检索，直指自动化软件瓶颈
ContextBench首次从「过程」评测代码智能体，揭示当前模型多读少用、被关键词误导等深层问题。它基于真实问题修复任务，由专家标注「黄金上下文」，用多指标评估。研究显示，复杂架构未必效果好，模型重召回轻精确等。
腾讯LLM团队：对下一个 Token 预测的深入剖析，多样性 or 精准度？
最新研究证实RL能增强LLM推理，但成效受限预训练token分布。腾讯LLM部把交叉熵重写成单步策略梯度，用超参压熵，为RL打造‘低熵高信号’起点，经实验验证低熵模型优势明显。
少 61% Token、多10倍成功率，这个终端 AI 编程代理火了！
现在多数AI编程工具问题多，而在Github上火爆的`oh-my-pi`是运行在终端的AI编程代理，有哈希锚定编辑等实用功能，支持多模型，经基准测试效果好，还能解决实际开发痛点。
大模型也需要睡觉！让AI打个盹，醒来更聪明
卡内基梅隆大学和马里兰大学研究发现，大模型处理长上下文易累傻。受人脑机制启发，设计睡眠机制，让模型在上下文窗口快满时打盹，反复咀嚼信息，压缩进长期权重。测试显示，增加“睡眠”轮次能提升深度推理表现。
从上下文工程到 AI Memory，本质上都是在「拟合」人类的认知方式
文章结合胡塞尔现象学，探讨从上下文工程到AI Memory，指出它们本质在‘拟合’人类认知。介绍二者概念及构建方法，对比人类与AI记忆异同，还通过与胡塞尔对话，思考AI意识等哲学问题。
Google | 溯源分析RAG系统错误，提出选择性生成框架，让RAG问答准确率提升10%
Google对RAG系统错误深入分析，引入‘充分上下文’概念，指出幻觉或因上下文不足。构建评估器，提出选择性生成框架，结合多信号决策，实验显示可让RAG问答准确率最高提升10%。
Pinterest 部署生产级模型上下文协议生态系统，赋能 AI 智能体工作流
Pinterest 工程团队搭建内部模型上下文协议（MCP）生态系统，驱动 AI 智能体，实现工程任务自动化。架构上线生产级服务器等，替换零散对接方式，让语言模型调用工具、访问数据，还能执行多种任务。
100万亿Token看懵硅谷！全球一半算力写代码，另一半在「搞颜色」 ？
OpenRouter和a16z联合发布报告，基于100万亿Token实证数据揭秘2025年AI发展。开源模型流量占比达30%，推理模型成主流，编程和角色扮演是主要使用场景，亚洲付费使用量翻倍，中文成全球第二大交互语言。