「上下文瓶颈」共找到 1209 篇相关文章
把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法
Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。
谷歌太壕了！编程Agent大招至简：开源且免费，百万上下文、多模态、MCP全支持
谷歌开源免费的编程Agent Gemini CLI，提供业界最高免费限额，能在终端访问Gemini。其能力多样，涵盖代码理解等，支持百万上下文、多模态和MCP，开源协议为Apache 2.0，还给出安装和使用指引。
Claude Sonnet 4 上下文翻 5 倍！100 万 token 能处理更大型代码库，AI 代码分析起飞。
Claude Sonnet 4 加入‘百万 token 俱乐部’，上下文容量翻 5 倍达 100 万，能处理大型代码库。不过功能在 Beta 有使用门槛和限制，价格也有变化，还对比了市场上其他模型。
推特热议、AI 万亿美元新赛道，「上下文图谱」到底是什么？创业机会在哪？
文章围绕「上下文图谱」展开，探讨其定义、构建问题及创业机会。指出它是决策轨迹积累形成的结构，构建要解决双时钟等问题。大厂难以捕捉决策轨迹，初创公司有三条路可走，捕捉决策轨迹或成新万亿级平台。
突破显存瓶颈：基于 DeepSeek-V3.2-Exp 的 Latent Cache 卸载预取方案设计与模拟验证
百度百舸AIAK团队针对DeepSeek-V3.2-Exp，设计基于Latent Cache的卸载预取方案ESS。该方案解决显存瓶颈，提升Decode吞吐并降低成本，经模拟验证效果显著，未来将拓展应用。
突破三维感知瓶颈：魔芯科技发布VGGT系列成果，实现动态高保真重建并获新一轮融资
魔芯科技联合同济大学等团队，基于 VGGT 架构发布四项成果，突破三维感知在流式处理、动态鲁棒性和精细感知上的瓶颈。还获新一轮融资，后续将加大对空间智能与世界模型技术投入。
剪映前AI产品负责人创业多模态Agent，做懂上下文的007乙方，成立半月融资数百万美元
剪映前AI产品负责人廖谦创业，成立极致上下文公司，获数百万美元投资。公司首要打造面向营销场景的多模态Agent，中长期搭建AI信息表达系统，他认为当下是创业好时机，且无传统意义上的护城河。
OpenAI联合创始人Greg Brockman：对话黄仁勋、预言GPT-6、我们正处在一个算法瓶颈回归的时代
OpenAI联合创始人Greg Brockman在AI.Engineer对话分享，还与黄仁勋连线。他回顾经历，从数学梦到编程，在Stripe、OpenAI发展。谈及多方面看法，如创造动机、工程研究关系、AI未来，指出算法瓶颈重回关键。
上周 GPT 和 Codex 各有一个发布，很多人没注意吗？可以解锁 Codex 百万上下文了
最近基模发布多，OpenAI 俩更新被低估忽略。一是 GPT - 5.6 Sol 的 Ultrafast 模式，输出最高达每秒 750 Token，先向少量 API 客户开放；二是 Codex 为其开放百万上下文能力，不过大窗口有代价。
4.5k星星爆火！用图片压缩Fable 5上下文，成本大幅降低，终于用得起这个模型了
Fable 5在AI圈爆火，但使用成本比其他型号贵至少5倍。pxpipe项目把适合压缩的大段文本渲染成PNG图片，交给多模态模型读取，能大幅降低成本，还能增加上下文长度。