「预训练」共找到 2194 篇相关文章
中科院类脑大模型SpikingBrain，2%数据，百倍速度
中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍，训练数据仅为2%。该模型采用新架构，降低计算复杂度，还可转换现有模型，且在国产GPU完成训练。
3B模型性能小钢炮，“AI下半场应该训练+验证两条腿跑步”丨上海AI Lab&澳门大学
上海AI Lab和澳门大学联合发布通用答案验证模型CompassVerifier与评测集VerifierBench，填补Verifier领域循环迭代体系空白。AI下半场评估比训练更重要，当前验证方法有困境，新模型验证精度高且能用于强化学习。
地瓜机器人携手虚时科技，补上具身智能的仿真数据“黑洞”｜甲子光年
5月12日，虚时科技与地瓜机器人联合开发的AnySceneGen平台发布，这是面向具身智能训练的仿真空间生成平台。具身智能训练需海量数据，传统仿真数据生产依赖人工，效率低。该平台以模型替代人工，重构生产方式，优势显著。
GUI智能体训练迎来新范式！半在线强化学习让7B模型媲美GPT-4o
浙江大学与通义实验室团队推出UI - S1，提出半在线强化学习训练范式。它融合离线与在线学习优势，用三项关键技术构建核心架构，新评测指标SOP更贴近真实表现，实验显示UI - S1 - 7B性能卓越，逼近GPT - 4o。
给GUI Agent装上「世界模型」：阿里通义用混合数据+统一思维链，让模型学会预判屏幕变化
伴随多模态大模型发展，GUI Agent成人机交互新范式，但构建高可用、跨平台的GUI Agent面临诸多挑战。阿里通义实验室开源Mobile - Agent - v3.5框架及GUI - Owl - 1.5模型家族，解决了相关技术壁垒。
英伟达推出下一代计算平台Rubin：可用45°C的热水进行冷却，训练速度提高3.5倍
英伟达黄仁勋在CES演讲，宣布进入自动驾驶领域、推出Alpamo模型与下一代计算平台Rubin。他指出计算行业正经历平台性转变，还介绍AI进展、应用架构，Rubin平台性能强且能效高。
让AI打游戏！能玩1000多款游戏，英伟达用4万小时视频训练出通用基础模型NitroGen
NVIDIA发布NitroGen模型，利用40000小时带按键显示的游戏视频，构建视觉-动作数据集，训练出能玩超1000款游戏的通用基础模型，在跨游戏泛化和微调任务中表现卓越，为具身智能发展提供新思路。
从 AI Agent、RLHF 到 MoE 大规模训练：AMD 这场开发者日，把一线实战话题凑齐了 ｜Q推荐
AMD AI开发者日揭晓八大硬核GPU Workshop、技术专题及“作品说话”主题分论坛嘉宾与话题，覆盖AI Agent、RLHF、MoE大规模训练等前沿领域，还有多场实操分享。
李飞飞团队发布新一代世界模型Atlas：从零训练，一次性打通视频生成、 3D重建与机器人仿真
李飞飞创办的 World Labs 发布新一代世界模型 Atlas，称其为‘全球首个多模态世界模型’。它从零训练，能同时完成视频生成、3D 重建和时空模拟，已向少数伙伴开放测试，未来将成 Marble 底层模型。
OpenAI华人AI大牛集体跳槽Meta！清华北大浙大中科大校友各一位，多模态后训练、感知团队负责人全走了
扎克伯格从奥特曼手里挖走4名OpenAI华人顶尖AI人才，包括中科大、浙大、清华、北大校友各一位。OpenAI或提高薪酬留人，人才争夺战成本升高，这也是开源与闭源阵营的交锋。