「长度外推」共找到 1268 篇相关文章
领先于Transformer！新架构首个1200万上下文模型SubQ，成本仅Opus的5%
Subquadratic公司提出SubQ模型，核心是SSA亚二次稀疏注意力机制。该机制改变注意力计算分配，让模型真正读长文档。SubQ是首个有1200万token上下文窗口的前沿模型，成本低、速度快，有望革新大模型扩展路径。
1M 上下文时代太费 Token，告诉你我的 Coding Agent 省钱方法
当下GPT-5.5等模型原生支持1M上下文，虽能支撑长任务，但易被噪音干扰且费Token。作者以Claude Code为例，介绍做好会话管理的多种省钱方法，如根据任务选择会话策略、利用rewind功能等。
等了五年，AI 终端 Warp 终于开源！OpenAI 赞助
Warp是用Rust写的AI终端，其创始人Zach Lloyd宣布开源，代码已推到GitHub。OpenAI是开源仓库「创始赞助商」。开发瓶颈转移，Lloyd提出开放智能体开发模式。Warp还内置编程Agent，有云端Agent编排平台Oz。
万帧实时！流式3D重建天花板，被国产开源模型打破了
蚂蚁正式开源 LingBot-Map，这是基于几何上下文 Transformer 的纯自回归流式 3D 重建基础模型。它能在恒定内存下实现超万帧长视频实时三维重建，处理速度约 20 FPS，在多基准测试中超越现有流式方法。
高管0份！影石年会5套房全归90后；34岁清华学霸28个月造百亿独角兽；DeepSeek“冷漠”争议，春节要燃回来？| Q资讯
本文为AI行业资讯汇总，包含DeepSeek回应“变冷漠”、影石年会送房、34岁清华学霸造百亿独角兽等热点，还涉及字节跳动、谷歌、英伟达等公司动态，以及模型下架、新规发布等消息。
AI 唱得比顶流歌手还精准！周亚辉盛赞百倍跃进，高晓松直言：AI 和我不是一个创作机制
近日昆仑天工发布 Mureka V8 音乐大模型，昆仑天工董事长周亚辉称其标志 AI 音乐达大规模工业化应用成熟度。高晓松认为 AI 与自己创作机制不同，但也肯定其能力，当前 AI 音乐正重塑产业权益结构。
印奇的智驾困局｜甲子光年
2026年初，印奇身兼千里科技与阶跃星辰董事长。千里科技转型后目标是让千里智驾上车量达百万辆，但面临市场反馈不佳、财务亏损等困局。他选择整合两家公司，借助阶跃星辰突围。
SGLang Hierarchical Sparse Attention 技术深度解析
阿里云等团队推出面向 Sparse Attention 的分层稀疏化框架，介绍其架构、机制与实践。此框架破解了长上下文推理时的计算与容量瓶颈，以 DeepSeek DSA 集成测试，使推理性能大幅提升，目前项目处于开发阶段。
Meta数十亿美元收购Manus背后：从江西小镇到硅谷风暴眼，肖弘的十年狂飙
本文讲述了肖弘的创业历程，从江西小镇少年成长为Meta副总裁。他经历多次创业起伏，如早期项目失败，后借壹伴、微伴等产品成功。2022 年起投身 AI，开发的 Monica、Manus 成绩斐然，最终 Manus 被 Meta 数十亿收购。
华为新开源！扩散语言模型突破32K上下文，还解锁了「慢思考」
今年文本生成领域从自回归向扩散语言模型转变，但长序列训练不稳定是痛点。华为发布 openPangu-R-7B-Diffusion，将上下文长度扩至 32K，在多基准创 7B 参数量级 SOTA，还解析了其技术革新。