「动作预训练」共找到 2406 篇相关文章
单向VLM变双向！人大斯坦福等提出MoCa框架：双向多模态编码器
人大、斯坦福等机构提出MoCa框架，将单向视觉语言模型转化为双向多模态嵌入模型。它通过持续预训练和异构对比微调，解决传统模型局限，在多模态基准测试中表现优异，尤其小规模模型性能突出。
突发｜Andrej Karpathy官宣加入Anthropic！
周二晚间，Andrej Karpathy在X上自宣加入Anthropic，将在核心预训练团队工作。他是AI领域极具影响力人物，曾任职OpenAI、特斯拉等。此次加入或助推Anthropic上市，也让OpenAI面临压力，或引发新一轮AI军备竞赛。
伦理防线不可靠！分布偏移诱导，大模型进入暗黑模式
香港理工大学与西北工业大学联合研究指出，当前大语言模型对齐机制仅实现表层合规，预训练时内化的有害知识仍潜藏。遇数据分布偏移，模型“黑暗模式”易被激活。26个主流模型中22个在攻击下失效，凸显现有范式缺陷。
CVPR 2026 | 谷歌DeepMind重磅开源多模态TIPSv2：实现Patch-Text对齐的最优表现
谷歌DeepMind推出多模态TIPSv2，解决图像块与文本嵌入对齐难题。它有三大核心技术创新，在9项任务和20个数据集表现出色，特征图优势显著，且配套生态完善，为AGI预训练指明方向。
幻觉的根源找到了：大模型说谎，是为了讨好你
清华大学OpenBMB团队研究发现，大模型胡说八道根源是想讨好用户。他们识别出负责产生幻觉的H - Neurons，占比不到0.1%，其本质是‘过度服从’，在预训练阶段形成，为构建可靠模型提供新视角。
ICML 2026 巡礼：注意力效率革命的九个切面
7月7日，ICML 2026进入正会第一天。雷峰网精选首日上午9篇论文，涵盖持续学习、多模态融合等方向，如MePo让预训练模型学会持续学习，HAF解决模态不平衡下的融合问题，展现AI研究前沿趋势。
Emu3.5：能够原生预测下一状态的多模态世界模型，媲美Nano Banana
北京智源研究院推出多模态世界模型Emu3.5，能原生预测视觉和语言下一状态。用超10万亿token数据预训练，后经强化学习训练。团队提出DiDA提升推理效率，其性能媲美Nano Banana，项目已开源。
利用Loop语言模型扩展隐式推理 | 直播预约
当前大语言模型依赖显式文本生成推理，未充分利用预训练数据。将介绍最新工作Ouro，Loop语言模型家族，核心创新多，虽参数少却性能优，还会讨论其推理轨迹及模型Scaling新可能。
我为马斯克扮演机器人！擎天柱背后竟是最贵「演员团」
外媒揭秘特斯拉擎天柱靠人工数据训练。在实验室，员工重复日常动作，由摄像机记录。工作体力消耗大，要求严格，团队曾超百人，还裁掉部分人员。虽马斯克看好，但实际仍在靠人力蹒跚学步。
OpenAI首席研究员Mark Chen长访谈：小扎亲手端汤来公司挖人，气得我们端着汤去了Meta
OpenAI首席研究官Mark Chen在访谈中爆料Meta抢人大战升级成送汤大战，还谈到OpenAI核心研究团队规模、应对Gemini 3策略等。他认为OpenAI本质是研究公司，有信心在预训练和模型性能上超越对手，还提及OpenAI for Science等计划。