「预训练数据」共找到 3960 篇相关文章
全球首个跨本体、跨视角、多模态物理世界模型，CurrentWorld-0 来了！
Current Robotics 发布跨本体、多模态物理世界模型 CurrentWorld-0，它从真实数据学规律，整合跨本体、多视角和力触预测，可评测机器人，解决动作可控性等问题，让评测成训练数据入口。
LeCun力荐的JEPA杀入LLM，用CV的思路训练LLM，性能鲁棒性双丰收
LeCun团队提出LLM - JEPA，将JEPA自监督学习架构从视觉扩展到LLM。它能提升性能和鲁棒性，在多模型和数据集验证有效，但有训练开销大、泛化性不足等局限。
10个小模型并联跑赢GPT-4.1！无额外训练，方法仅4步
上海人工智能实验室等机构提出Avengers框架，无需额外训练，通过四步集结小模型优势。实验表明，其在15个数据集上平均得分超GPT - 4.1，还探究了框架有效的要素，对AI研究和开源社区意义重大。
直播预约 | SwS: 强化学习训练能否不依赖外部知识优化模型的弱点？
该论文提出强化学习场景下的启发式数据合成流程（SwS），利用模型自我感知弱点驱动自动化问题生成，弥补推理缺陷。对其扩展后适应性更广，在多基准测试集和模型上验证有效，性能提升显著。
离职特斯拉“隐身”14个月，杨硕创业终于亮牌：重新定义机器人训练范式
杨硕从特斯拉擎天柱团队离职创业一年多后，妙动科技团队带来新论文《DiT4DiT: Jointly Modeling Video Dynamics and Actions for Generalizable Robot Control》。该团队用视频训练机器人动作，提出DiT4DiT模型，解决VLA模型不懂物理问题，在人形机器人上有新突破。
具身智能一步踏入Scaling Law！10B+基础模型，27万小时真实数据
AI机器人创业公司Generalist推出新型具身基础模型GEN-0，参数量10B+，专为多模态训练构建。该模型展现强大Scaling Law，能力可扩展，有和谐推理等特性，在多方面有突破，成果备受赞誉。
该工作引来马斯克回复，让Gork破防：CoT是真正的推理，还是训练数据的统计插值？
大型语言模型（LLMs）的思维链（CoT）推理能力被视为突破性进展，但论文揭示CoT可能只是数据分布内的模式匹配幻象，通过实验证明其在分布偏移时表现急剧退化，挑战主流认知。
Ilya罕见发声：大模型「大力出奇迹」到头了
Ilya大神在近2万字采访中称，AI正从「规模时代」走向「科研时代」，主流「预训练 + Scaling」路线遇瓶颈。他还探讨了AI泛化、安全对齐、预训练范式等热门话题，给出独特见解。
Qwen-Scope：看穿大模型的“小心思”
Qwen-Scope是基于Qwen3和Qwen3.5系列模型训练的可解释性模块，通过在隐藏层插入SAE提取可解释特征。它能分析模型行为、优化模型，应用于推理、数据、训练、评估等场景，可前往Huggingface或魔搭体验。
Ilya交卷！黄仁勋砸50亿押注SSI，首个模型疑本周发布
Ilya Sutskever创立的SSI或本周发布首个重磅模型，引发圈内关注。英伟达砸50亿美元合作，提升其算力。该模型基于测试时训练架构，能边学边进化，或终结大模型“预训练时代”。