「分布外泛化」共找到 481 篇相关文章
ICML 2025 | 清华、上海AI Lab等提出傅里叶位置编码，多项任务远超RoPE
长文本能力对语言模型重要，但现有模型训练窗长有限，流行的RoPE也有局限。清华、上海AI Lab团队用傅里叶分析解读其不足，提出傅里叶位置编码FoPE，提升长文本泛化能力，实验表现超RoPE。
从平面几何出发：形式化验证如何驱动MLLM的推理能力跃迁
多模态大语言模型在复杂数学与几何推理中有缺陷，现有训练方式让模型难有鲁棒推理能力。上海交大等团队提出“以形式化增强非形式化推理”方案，构建完整闭环，提升模型推理及泛化能力。
14B检索能力超过Google Search，阿里ZeroSearch通过RL激发LLM检索推理能力~
有效信息搜索对提升LLMs推理和生成能力重要，当前RL方法有文档质量不可控和API成本高问题。阿里通义Lab提出ZEROSEARCH框架，经多步骤训练，实验显示其在检索能力和泛化性上表现出色。
LeCun力荐的JEPA杀入LLM，用CV的思路训练LLM，性能鲁棒性双丰收
LeCun团队提出LLM - JEPA，将JEPA自监督学习架构从视觉扩展到LLM。它能提升性能和鲁棒性，在多模型和数据集验证有效，但有训练开销大、泛化性不足等局限。
推理与操控能力双提升！具身机器人双系统VLA模型新突破
香港中文大学等联合提出Fast - in - Slow（FiS - VLA）统一双系统VLA模型，实现快慢系统融合。在真机和仿真测试中，成功率和控制频率提升显著，泛化能力强。未来计划探索动态调参机制。
模型不是企业的护城河，那什么才是？
文章指出企业AI进入深水区后，真正的竞争是将AI变成企业自己的智能引擎。衔远科技创始人周伯文提出泛化基础上的深度专业化是企业竞争力来源。衔远发布EnterpriseClawBench，揭示企业需私有化评估和可持续进化能力。
0人类数据，让机器臂自学拧灯泡：MIT初创要打造机器人界的AlphaZero
Eka Robotics 发布机械臂视频，其能自主拧灯泡、抓取物品。该公司提出 VFA 模型，不依赖人类数据，让机器人在仿真环境自主探索。创始人期望实现超人级灵巧操作，算法还展现泛化和自主发明策略能力。
首个面向柔性衣物灵巧操作的仿真平台来了，北大、伯克利联合发布
北大和伯克利联合发布首个面向柔性衣物灵巧操作的仿真平台 DexGarmentLab。它基于 Isaac Sim 4.5.0 搭建，有多样化场景、自动化数据采集管线和泛化能力强的策略框架 HALO，可推动柔性物体操作应用。
微软开源了一款 skill 神器，这下爽了！
近期微软开源桌面应用 `Skill Recorder`，1个多月揽3K star。它能录屏幕操作，借助 GitHub Copilot CLI 生成可复用 Skill 或 Automation，与 RPA 思路不同，有泛化能力，可按命令快速安装。
模仿学习新范式！Chain-of-Action：轨迹自回归实现动作推理
具身智能领域尚未迎来「GPT时刻」，现有模仿学习范式有缺陷。字节跳动与阿德莱德大学研究者提出「动作链」（CoA）策略，通过轨迹自回归建模解决累计误差，提升泛化性，实验效果显著。