「上下文去噪训练」共找到 2905 篇相关文章
训练数据枯竭怎么办？首篇「数据价值密度」综述理清思路
上海交通大学与上海人工智能实验室团队发布首篇「数据价值密度」综述。提出“数据价值密度”概念并定义，建立分类框架梳理现有工作，还指出该领域面临的挑战，为大模型训练提供指南。
来自 Manus 的一手分享：如何构建 AI Agent 的上下文工程？
Manus 公司联合创始人季逸超分享为 Manus 搭建上下文工程的经验。文章探讨构建 AI 智能体时的关键抉择，给出围绕 KV - Cache 设计、通过掩码约束行为等构建原则，助开发者少走弯路。
上下文工程（Context Engineering）综述：大模型的下一个前沿
文章提出“上下文工程”学科，通过整合1400余篇论文构建“基础组件 - 系统实现”框架。它将上下文定义为动态结构化信息集合，揭示LLMs理解强于生成的矛盾，为AI研究指明方向。
「Next-Token」范式改变！刚刚，强化学习预训练来了
微软新研究提出「强化预训练（RPT）」新范式，将下一个 token 预测任务重新定义为推理任务，可利用海量文本数据进行通用强化学习。该方法有可扩展性、低风险等优点，实验显示其提升了语言建模能力。
何恺明等降维打击！彻底颠覆AI生图，无需预训练一步到位
何恺明团队推出生成模型MeanFlow，它跳脱传统训练范式，无需预训练等，仅一次函数评估就能完成生成。在ImageNet 256×256上表现优越，缩小了一步与多步模型性能差距。
「上下文工程」 已经30岁了，而你可能刚知道它
上海创智学院刘鹏飞老师团队提出上下文工程2.0，剖析其本质、历史与未来。上下文工程已发展30年，是熵减少过程，旨在弥合人机认知鸿沟。其历史呈收敛曲线，每次技术突破引发三重连锁反应，当前人类正处通向3.0转折点。
清华叉院教授手把手教你用强化学习训练智能体
在大模型智能体时代，智能体强化学习训练通用智能体很关键。ASearcher 是相关项目，AReaL 有交互次数和代码设计优势。本次吴翼教授将带团队成员，以多轮搜索智能体为例，教用最少代码实现训练。
爱思唯尔把Meta告了：拿Sci-Hub盗版论文训练大模型
学术出版巨头爱思唯尔等多方原告起诉Meta，指控其未经授权获取、复制受版权保护的学术论文训练Llama大模型，数据源于Common Crawl和盗版平台。Meta以‘合理使用’抗辩，AI版权合法性尚无明确判例。
五角大楼计划将绝密数据喂给AI，训练军事特供版模型
《麻省理工学院技术评论》称，五角大楼正讨论为生成式人工智能公司建安全环境，用机密数据训练军事特定版本模型。美国军方重构战略，推动先锋项目，还筹备用绝密数据训练模型，引发安全担忧。
跟上 AI 的节奏：为演进式架构构建上下文存储库
本文探讨AI辅助开发带来的上下文认知断层问题。在开发中，AI前期提效但后期难题凸显，企业面临团队执行和管理层决策层面隐患。可通过融合三大工程规范构建上下文存储库解决，确保开发逻辑可控。