「上下文去噪训练」共找到 2905 篇相关文章
姚顺雨腾讯首篇论文：给AI下半场指路“上下文学习”
姚顺雨入职腾讯后首个成果CL - bench，用来测试大模型“从上下文中学习”能力。研究指出当下模型多依赖“过去”知识，无法适应“当下”学习。评测中，十个前沿模型表现不佳，揭示其真实场景应用缺陷。
第二代AI预训练范式：预测下个物理状态
英伟达科学家 Jim Fan 发布《第二代预训练范式》，指出当前以 LLM 为代表的第一代范式应用于物理世界时「水土不服」，认为第二代范式是「预测下一个物理状态」，引发机器学习社区讨论。
DeepSeek-V4发布！高效百万上下文智能普惠时代来了
DeepSeek-V4发布，是开源社区关键分水岭。它解决超长文本处理效率痛点，架构与优化有多项突破，降低算力消耗和成本，适配国产芯片，性能比肩顶级闭源模型，推动开源社区两大未来趋势。
训练机器人方式对了吗？英伟达DreamZero双榜第一新反思
NVIDIA的DreamZero在RoboArena和MolmoSpaces基准测试双登顶。分析文章《Why is DreamZero so good at robotics?》从多维度拆解其表现突出原因，质疑传统认知，如数据量并非万能，模型规模和信息输入方式也很关键。
Anthropic说：Session Management 是最好用的 Harness Engineering！
Anthropic指出管理Session、Context等在Claude Code上已落地。模型上下文并非越长越好，rewind比纠错好，compact要把握时机，subagent可隔离上下文，如今行业看重agent产品runtime。
真·养虾！3步让龙虾边聊边进化，不用GPU不用数据集就能强化学习
程序员给智能体套在线强化学习系统MetaClaw，把用户与AI对话变训练数据。它基于Kimi - 2.5，用SkillRL框架，不依赖本地GPU，训练交Tinker云平台，三步即可上手。
上下文窗口限制被打破：Subquadratic推出了一个1200万Token的窗口
2026 年前沿模型宣传至少 100 万 Token 上下文窗口，但利用不佳。Subquadratic 推出能处理 1200 万 Token 窗口的模型，称可绕过问题，还将推 5000 万窗口模型，其 SSA 架构有优势，基准测试成绩佳。
Pinterest 利用内容指纹技术，在数百万个域名中实现 URL 去重
Pinterest工程师开发“最小重要查询参数集”（MIQPS）URL标准化系统，用于优化大规模数据采集管道内容去重。它取代传统方法，用数据驱动判断参数重要性，还采用早期退出逻辑等提高效率。
2025 社交新方式：当 AI 成为「第二个我」，去实现「真实连接」
作者作为业余AI产品经理，体验Second Me这款AI应用。它能借助AI复刻「AI自我」，基于记忆匹配社交，作者借此完成与他人的深度交流。同时探讨了AI社交风险，认为AI应是社交起点，帮人筛选和破冰。
这个时代最缺的是「个人上下文」丨对话flomo浮墨笔记
量子位智库对话flomo浮墨笔记联合创始人刘少楠，探讨AI笔记产品发展。刘少楠分享了flomo定位、目标人群、降低门槛方法等，提及AI带来的认知变化，还谈了产品指标、功能考量、成本平衡等问题。