「上下文去噪训练」共找到 2905 篇相关文章
腾讯混元A13B用130亿参数达到千亿级效果，Flash Attention作者点赞
腾讯混元A13B模型仅130亿激活参数，却能和千亿级大模型竞争，获Flash Attention作者赞叹。它精准卡位性能与效率‘甜蜜点’，依托高质量预训练和结构化后训练，多方面表现突出且已全面开源。
地瓜机器人携手虚时科技，补上具身智能的仿真数据“黑洞”｜甲子光年
5月12日，虚时科技与地瓜机器人联合开发的AnySceneGen平台发布，这是面向具身智能训练的仿真空间生成平台。具身智能训练需海量数据，传统仿真数据生产依赖人工，效率低。该平台以模型替代人工，重构生产方式，优势显著。
GUI智能体训练迎来新范式！半在线强化学习让7B模型媲美GPT-4o
浙江大学与通义实验室团队推出UI - S1，提出半在线强化学习训练范式。它融合离线与在线学习优势，用三项关键技术构建核心架构，新评测指标SOP更贴近真实表现，实验显示UI - S1 - 7B性能卓越，逼近GPT - 4o。
SceneSplat: 基于3DGS的场景理解和视觉语言预训练，让3D高斯「听懂人话」的一跃
文章引入 SceneSplat，首个在 3DGS 上原生运行的端到端大规模 3D 室内场景理解方法，提出自监督学习方案，构建发布 SceneSplat - 7K 数据集，在多个实验中达 SOTA 效果。
英伟达推出下一代计算平台Rubin：可用45°C的热水进行冷却，训练速度提高3.5倍
英伟达黄仁勋在CES演讲，宣布进入自动驾驶领域、推出Alpamo模型与下一代计算平台Rubin。他指出计算行业正经历平台性转变，还介绍AI进展、应用架构，Rubin平台性能强且能效高。
字节 AI 卷出新高度：豆包试水“上下文定价”，Trae 覆盖内部80%工程师，战略瞄定三主线
近日字节分享 AI 技术发展三主线，6 月 11 日火山引擎有系列发布更新。豆包 1.6 实行上下文定价，成本降低；超 80% 字节工程师用 Trae；视频生成模型 Seedance 1.0 Pro 具性价比；智能体带动强化学习算力攀升。
让AI打游戏！能玩1000多款游戏，英伟达用4万小时视频训练出通用基础模型NitroGen
NVIDIA发布NitroGen模型，利用40000小时带按键显示的游戏视频，构建视觉-动作数据集，训练出能玩超1000款游戏的通用基础模型，在跨游戏泛化和微调任务中表现卓越，为具身智能发展提供新思路。
从 AI Agent、RLHF 到 MoE 大规模训练：AMD 这场开发者日，把一线实战话题凑齐了 ｜Q推荐
AMD AI开发者日揭晓八大硬核GPU Workshop、技术专题及“作品说话”主题分论坛嘉宾与话题，覆盖AI Agent、RLHF、MoE大规模训练等前沿领域，还有多场实操分享。
李飞飞团队发布新一代世界模型Atlas：从零训练，一次性打通视频生成、 3D重建与机器人仿真
李飞飞创办的 World Labs 发布新一代世界模型 Atlas，称其为‘全球首个多模态世界模型’。它从零训练，能同时完成视频生成、3D 重建和时空模拟，已向少数伙伴开放测试，未来将成 Marble 底层模型。
OpenAI华人AI大牛集体跳槽Meta！清华北大浙大中科大校友各一位，多模态后训练、感知团队负责人全走了
扎克伯格从奥特曼手里挖走4名OpenAI华人顶尖AI人才，包括中科大、浙大、清华、北大校友各一位。OpenAI或提高薪酬留人，人才争夺战成本升高，这也是开源与闭源阵营的交锋。