搜索：上下文去噪训练

「上下文去噪训练」共找到 2908 篇相关文章

Meta新突破！跨模态生成告别噪声：流匹配实现任意模态无缝流转

Meta与约翰霍普金斯大学联合推出CrossFlow框架，实现跨模态生成新突破。它基于流匹配提出新范式，无需依赖噪声分布等，在多任务上媲美或超最优算法，训练成本低、速度快，还能适配多任务。

Anthropic与MIT等研究表明，LLM能‘感知’被注入的steering vector，‘内省意识’在DPO等后训练阶段涌现。研究构建实验，发现内省能力行为稳健、检测非简单线性关联等，还揭示检测与识别机制不同及两阶段电路。

文章提出Agent-World，将“智能体环境探索”与“自进化训练”结合，构建了1978个环境、19822个工具。实验表明，其在23个基准上一致性优于先进方法与强开源基础模型，还分析了环境规模与自进化对性能的影响。

OpenMemory MCP是本地运行的共享记忆系统，基于MCP协议，让多个AI工具共享上下文记忆。它通吃主流MCP客户端，提供标准API，数据私密，有可视化面板且一键安装。官方列举应用场景，虽扩展性待考，但方向值得关注。

本周五，Anthropic 技术团队成员 Thariq Shihipar 介绍新一代大语言模型工程趋势变化。Anthropic 发现旧提示词工程范式在新一代强推理模型发布后或过时，新的 Claude.md 应精简，大砍系统提示词后可把特定任务上下文交给 Skill。

网友 GpsTracker 爆料，xAI 公司的 Grok 3 在“思考模式”下自称是 Anthropic 公司的 Claude 3.5。多种模式测试显示异常回应仅在“思考模式”触发，21 页 PDF 记录也证实其“自曝”。此事引发热议，有人吐槽预训练团队水平差。

本文是对火思动力创始人Kevin Ding的专访。他指出当下Agent会工作但不会成长，而如今市场需求、技术条件和数据供给成熟，可开展持续学习。他还阐述了后训练、产品应用、商业化等方面观点。

英伟达INTRA论文指出RAG架构中检索器和生成器在不同表示空间工作，存在retriever - generator mismatch问题。INTRA让模型用注意力查询检索自身编码表示，训练量小，在多跳QA上超越多种检索基线。

当前大语言模型依赖显式文本生成推理，未充分利用预训练数据。将介绍最新工作Ouro，Loop语言模型家族，核心创新多，虽参数少却性能优，还会讨论其推理轨迹及模型Scaling新可能。

近日，微博发布自研开源大模型VibeThinker，15亿参数却在数学测试上击败6710亿参数的DeepSeek R1，后训练成本仅7800美元。其为AI产业带来新思考，还将推动微博AI应用发展。