搜索：上下文去噪训练

「上下文去噪训练」共找到 2905 篇相关文章

用 Docker 跑大模型训练，Unsloth 解决了环境配置难题

Unsloth AI 发布 Docker 镜像版本，解决本地训练大模型环境配置难题。拉镜像就能训练，依赖和示例 notebook 都打包好。使用简单，不过有暂不支持 Mac 系统等限制，单卡 NVIDIA GPU 场景较适用。

文章围绕AGI展开，介绍AGI路线图第二阶段“游戏即训练”，指出游戏是训练agent的理想环境；还提及Dreamer系列研究进展。同时涵盖本周市场动态、多家公司AI动态及ETF复制指数的方法、优劣和影响。

Anthropic发文章阐述上下文工程，指出构建语言模型重点正从提示工程转向上下文工程，探讨了其与提示工程区别、重要性，给出实践指导原则、新趋势及应对长时程任务策略。

华为GTS研发部AI数据团队提出EDCO方法，将样本难度估计与动态课程编排引入领域大模型微调。该方法用推理熵动态编排训练课程，让模型面对最有学习价值的样本，已被ICML 2026接收。

文章深度拆解Claude Code上下文管理机制，包括七类上下文、预算与告警、加载、卸载机制等。指出其是分层缓存与多级预算管理系统，还为长任务Agent开发者提供了管理启示。

北大张文涛教授、鄂维南院士团队联合多机构推出大模型数据中心动态训练框架DataFlex。它是统一训练基础设施，纳入三类核心能力，解决底层系统问题，在效率和效果上有提升，受社区认可。

字节提出视频生成运动控制统一框架ATI，通过轻量级运动注入器将用户定义轨迹投影至预训练图像 - 视频生成模型潜在空间，实现协调控制。用户指定关键点及路径控制运动，无需重新训练，适配不同架构。

文章围绕AI Agent的上下文工程展开，指出其比Prompt Engineering更重要。介绍了上下文工程的分层组织，包括角色定义、通用规则、项目状态和用户指令，还提及项目感知、.ling.md文件及完整System Prompt的组装。

传统强化学习（RL）训练LLM Agent面临成本高、任务多样性不足等挑战。Meta团队提出DreamGym框架，以经验合成为核心，通过三大组件协同工作，在多种任务和模型上提升性能，为通用Agent训练开辟新路径。

上海创智学院、上海AI Lab的MM - Eureka系列工作提出新强化学习算法CPGD，缓解训练崩溃问题，提升性能。还构建多模态强化学习框架，推出MMK12数据集和MM - PRM模型，开源相关成果。