「上下文成本」共找到 2088 篇相关文章
姚顺雨腾讯首篇论文:给AI下半场指路“上下文学习”
姚顺雨入职腾讯后首个成果CL - bench,用来测试大模型“从上下文中学习”能力。研究指出当下模型多依赖“过去”知识,无法适应“当下”学习。评测中,十个前沿模型表现不佳,揭示其真实场景应用缺陷。
LLM算力告急?把文本变图片,推理成本直接减半!
大型语言模型处理长文本时计算成本高,本论文探索‘文本即图像’输入压缩策略,将长文本渲染为图像输入多模态模型,可减少近一半令牌,且任务性能不受显著影响,在多任务中验证了其有效性。
成本降70%!清华、阿里通义带来智能体长程任务新解法
AI智能体处理长程任务常遇上下文超载问题。清华与阿里通义研究人员提出MemPO算法,赋予大模型主动管理记忆能力,准确率提升,计算资源消耗降近七成,不过评价机制有局限。
Transformer与RNN合体,谷歌打下显存门槛,解锁超长上下文
谷歌论文提出 Memory Caching 技术,通过架构机制创新赋予 RNN「可生长的记忆容量」,兼顾 Transformer 与 RNN 优势,能处理更长文本、降低推理资源门槛,实验显示有良好效果。
成本下降 90%后,Figure 的下一步是机器人「自己造自己」?
近期,海外人形机器人公司 Figure 首席执行官 Brett Adcock 接受访谈,围绕「Figure 的核心技术与产品迭代」,就全栈端到端神经网络架构、数据壁垒与垂直整合等核心议题,阐述其通用人形机器人技术路线、产业逻辑与商业化实践。
Meta联手UCSD发布DeepConf:计算成本暴降85%,99.9%准确率!
Meta AI联合UCSD推出DeepConf技术,解决了AI高难度推理准确率与计算成本的难题。它让AI学会“察言观色”,筛选靠谱推理路径,在AIME 2025竞赛中与GPT - OSS - 120B模型取得99.9%准确率,还节省大量计算资源。
Anthropic说:Session Management 是最好用的 Harness Engineering!
Anthropic指出管理Session、Context等在Claude Code上已落地。模型上下文并非越长越好,rewind比纠错好,compact要把握时机,subagent可隔离上下文,如今行业看重agent产品runtime。
TACO: 让 CLI Agent 在自主迭代中学会丢掉无用上下文
由多校及研究团队联合提出 TACO,这是无需训练、即插即用的终端智能体自进化观测压缩框架。它能让智能体学习压缩规则,过滤低价值输出,保留关键线索,实验显示其提升了任务成功率和 token 效率。
上下文窗口限制被打破:Subquadratic推出了一个1200万Token的窗口
2026 年前沿模型宣传至少 100 万 Token 上下文窗口,但利用不佳。Subquadratic 推出能处理 1200 万 Token 窗口的模型,称可绕过问题,还将推 5000 万窗口模型,其 SSA 架构有优势,基准测试成绩佳。
流片成功率低、研发成本高昂,EDA如何助力芯片产业破局?
全球半导体市场规模增长强劲,但芯片产业面临流片成功率低、研发成本高的挑战。西门子EDA全球副总裁凌琳提出,未来半导体产业突破需聚焦三大方向,核心是‘全面数字孪生’,并阐述了实现路径和布局策略。