「长上下文窗口」共找到 1220 篇相关文章
腾讯发布SpecExit算法，无损压缩端到端加速2.5倍！解决大模型长思考效率难题
腾讯发布 SpecExit 算法，将思考早停与投机采样融合，利用轻量级草稿模型预测“退出信号”，在不引入额外探测开销的前提下，实现动态、可靠的思考早停，在 vLLM 上推理端到端加速 2.5 倍，准确性和推理效率得到双重保障。
让世界模型推理效率提升70倍：上海AI Lab用“恒算力”破解长时记忆与交互瓶颈
上海AI Lab联合多家机构开源Yume1.5，针对视频生成构建可交互“世界模型”的核心难题，提出时空信道联合建模（TSCM），实现近似恒定计算成本的全局记忆访问，展示了世界模型工程化落地的可行路径。
字节 AI 卷出新高度：豆包试水“上下文定价”，Trae 覆盖内部80%工程师，战略瞄定三主线
近日字节分享 AI 技术发展三主线，6 月 11 日火山引擎有系列发布更新。豆包 1.6 实行上下文定价，成本降低；超 80% 字节工程师用 Trae；视频生成模型 Seedance 1.0 Pro 具性价比；智能体带动强化学习算力攀升。
可从表复杂文档中提取结构化数据的Python库agentic-doc，支持100+页PDF长文档
LandingAI的Agentic文档提取API可从复杂文档提取结构化数据，Python库agentic-doc封装该API，支持100+页PDF长文档，有自动重试、并行处理等功能，还能可视化调试。
32倍加速，58秒搞定720p视频！字节发布离散自回归框架，统一视觉生成和长视频生成
字节发布InfinityStar框架，将5秒720p视频生成时间从30多分钟缩至58秒，还支持多样任务。它基于对视频本质思考设计时空金字塔模型，将时空分离，通过多项技术优化，性能表现出色，不过也存在一些技术局限。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
Claude Code 新增 Recap 功能，多开党必备神器
Anthropic更新Claude Code，新增Recap功能。切回窗口时，它自动显示摘要，告知操作进度、问题及下一步计划，解决多开党忘记进度的困扰，目前已在终端版上线。
SubAgent 与 Skills：AI Agent 的两种扩展方式
文章介绍了 AI Agent 的两种扩展方式：Skills 是“操作手册”，让 Agent 按需获取知识；SubAgent 是独立“专家助手”，有自己的上下文窗口。还通过给文章配图案例对比两者差异，并给出使用建议。
AI编程Token消耗降低神器：RTK（Rust Token Killer）实战指南
文章介绍RTK（Rust Token Killer），它能在CLI命令输出到LLM上下文前智能过滤压缩，节省60 - 90%Token。文中说明了其原理、特性、压缩策略，还给出安装配置步骤、实测数据及使用建议。
Claude Skills很重要
作者本想退订Claude，因Anthropic发布Claude Skills改变主意。它是‘能力包’，含SOP、工具和资源，分层加载省上下文窗口。预设Skills可体验，官方开源，模块化设计利于挂载和按需加载，或形成Skills Market。