「上下文瓶颈」共找到 1250 篇相关文章
AGI 新技术路线：下一代稀疏注意力机制 Monte Carlo Attention 开源
超对称技术公司在新版基座模型 BigBang - Proton 中使用的 Monte Carlo 注意力开源。它基于二进制块编码技术，用块间代表交流机制实现线性复杂度，兼具多种注意力机制优点，可满足宇宙尺度建模的上下文长度需求。
100 页 Agentic RL 综述！牛津、新国立、AI Lab 等联合定义 LLM 下半场
2025 年大语言模型热潮持续，但当前主流训练范式显瓶颈。牛津、新国立等 16 家机构学者发布 100 页 Agentic RL 综述，明确定义从‘会说’到‘会做’进化路径，剖析理论、结构与实践，展望未来挑战。
Anthropic 断供，国产 Coding 模型的中场战事开启
Anthropic对中国企业断供，国产模型面临成为Claude平替的机遇。Kimi等模型纷纷尝试，Kimi K2 0905版本在编码、上下文及工具调用上提升，其终极目标或构建具Agent特质产品，未来Agent是决胜场。
SSM+扩散模型，竟造出一种全新的「视频世界模型」
在AI热词不断涌现的时代，斯坦福大学等机构研究将长上下文、状态空间模型、扩散模型等结合，创造全新「视频世界模型」。它用状态空间模型实现长期记忆，还设置局部注意力机制，训练和推理表现出色。
Claude Opus 5发布，砍掉了Claude Code 80%的系统提示词
Anthropic发布Claude Opus 5，接近Claude Fable 5智能且价格减半，测评成绩出色，科研和视觉输出能力也有进步。同时发现砍掉Claude Code 80%系统提示词，编码评测分数不变，还总结出上下文工程新方法论。
13人干翻Transformer！新架构SSA算力暴减千倍，成本仅Opus 5%
一款基于SSA架构的AI模型SubQ横空出世，其上下文高达1200万Token，计算量比Transformer暴减1000倍，成本不到Claude Opus的5%。打造它的Subquadratic公司仅13人，产品发布后引发AI社区不同反应。
AI 巨头对话：Sam Altman 与 Satya Nadella 论 AI 未来、算力与微软王牌
OpenAI的Sam Altman和微软的Satya Nadella在播客中探讨AI未来等话题。涉及1.4万亿算力投入、微软与OpenAI新合作协议细节，指出瓶颈在数据中心和电力，还谈及AI经济模型、未来愿景等。
首创双NPU架构一鸣惊人！联发科天玑9500重磅加码主动式AI体验
联发科天玑9500首创超性能+超能效双NPU架构，让AI始终在线，融入用户操作。其输出性能、上下文窗口等有显著提升，还解决了模型加载慢等问题，与多厂商合作推动端侧AI落地。
这可能是Claude Code最重要的功能
Claude Code新功能Sub - agents很实用，能创建多个专精任务的Agent，有独立上下文窗口防‘记忆污染’，配置灵活，还能组成工作流。创建简单，比社区项目有优势，是Claude Code截至目前最重要功能。
“数据比模型重要”成了共识，接下来拼什么？
本文为数势科技创始人黎科峰记录上海闭门行业圆桌内容，不同领域从业者一致认为，大模型已非企业AI胜负手，数据与语义层才是核心瓶颈，共识形成后行业进入深度竞争阶段。