搜索：上下文驱动 - AI Reading Hub

「上下文驱动」共找到 1227 篇相关文章

ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键

ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。

前网易副总裁汪源在2026奇点智能产品大会分享，指出智能体系统瓶颈正从模型能力、Harness工程，转移到上下文。他还介绍了做好上下文基础设施的要点，以及推出的新内容格式KRL。

现在3行配置就能让GPT - 5.6 Sol封印解除，在Codex里用上1M上下文。不过有网友警告轻易别用，因超出默认窗口，模型消耗token速度会翻倍，且模型上下文利用能力会下降。此外，Codex确定会上Astra。

大型语言模型能通过上下文学习（ICL）在推理时即时学习新任务，无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新，解释了ICL原理，为构建AI系统开辟新路径。

在Agent时代，提示工程进化成上下文工程。斯坦福等团队提出Agentic Context Engineering（ACE），让智能体自我学习与进化。文章介绍了上下文工程的必要性、定义、常见策略，以及ACE的概念、原理与架构。

字节跳动的AI编程助手Trae发布2.0版本，新增SOLO模式，支持端到端开发流程。上下文工程热度攀升，能解决AI代码落地问题。Trae迭代快，从基础问答进化为智能体系统。

OpenAI Codex 早期研发者 Calvin French - Owen 在播客中锐评代码智能体，偏爱 Claude Code，称其搭配 Opus 模型写代码速度提 5 倍。他强调上下文管理重要性，还对比了 Claude Code 与 Codex 产品理念差异。

Blinko是AI驱动的卡片笔记项目，方便快速捕捉和组织灵感。有AI增强笔记检索、数据所有权保障等特性，支持多平台，还具备离线语音识别功能，支持多种AI模型，是开源项目。

Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS，能处理一千万token输入。它替代注意力层，训练后在长上下文任务中表现佳，但小模型，大规模表现未知。

Vibe-Trading 是 AI 驱动的多代理金融工作台，能将自然语言请求转化为交易策略等。它有自然语言转策略、多数据源、专家团队等核心能力，具备面向交易的深度研究等功能，还介绍了安装方式、环境变量和推荐模型。