「AI对齐训练」共找到 11286 篇相关文章
Make SFT Great Again！从SFT到DFT：一权重之差，泛化之跃
大型语言模型的监督微调（SFT）简单高效，但泛化能力弱于强化学习（RL）。本文直击 SFT 核心缺陷，揭示其泛化瓶颈源于隐含的“病态奖励结构”，并提出仅需单行代码修改的动态微调（DFT），实验表明其效果显著。
仅用提示词工程摘下IMO金牌！清华校友强强联手新发现，学术界不靠砸钱也能比肩大厂
清华校友杨林和黄溢辰，仅用提示词设计和自我迭代验证流程，让基础模型Gemini 2.5 Pro达到IMO金牌水平。他们设计的流程分六个步骤，用差异化提示词，最终为5道题生成严谨解答。
这家国内公司，在给具身智能技术栈做「通解」
具身智能是AI热门赛道，世界人工智能大会WAIC 2025让其概念渐明。国内梅卡曼德公司展位集合机器人技术多种落地形式，展示自研通用机器人「眼脑手」全栈技术产品，推动机器人各行业落地。
刷新无监督异常检测上限！首提「匹配代价滤波for异常检测」范式 | ICML'25
新智元报道，东北大学等团队在ICML 2025提出CostFilter-AD，将「匹配代价体滤波」引入无监督异常检测，构建异常代价体并滤波，无需缺陷样本训练，可作插件提升现有系统，精准检测微小缺陷。
万字对谈 Physical Intelligence（π）：具身智能的卡点和下一步突破，到底在哪？
本文是对Physical Intelligence联创兼CEO和核心研究科学家的访谈。他们探讨具身智能现状，指出当前瓶颈是智能软件，还谈到VLM性能、数据收集、模型训练等问题，认为通用机器人基础模型被低估。
首个多模态工业信号基座模型FISHER，权重已开源，来自清华&上交等
清华、上交等团队联合发布首个多模态工业信号基座模型 FISHER，用搭积木法对异质工业信号统一建模。技术报告和权重已开源，还提出 RMIS 基准评估性能，实验显示其泛化能力强。
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。
IMO 主席正式宣布：Google DeepMind在国际数学奥赛拿下金牌！
Google DeepMind的Gemini Deep Think模型在2025年IMO竞赛获金牌水平成绩。虽比OpenAI公布晚，但实现用自然语言解题质的飞跃。它采用增强推理模式，成绩经官方认证，后续将向用户开放。
OpenAI 离职员工爆料公司压力巨大发展速度惊人
前OpenAI员工Calvin回顾工作经历，称其发展极快、压力大。公司依赖Slack沟通，自下而上创新，重能力而非政治。还提到技术栈、安全关注重点等，认为OpenAI、Anthropic和Google是AGI赛道主力。
对谈 Chai-2 核心科学家乔卓然：抗体生成成功率提升百倍，分子生成平台是药物研发的 GPU｜Best Minds
文章访谈 Chai Discovery 创始科学家乔卓然，探讨 Chai-2 设计理念与行业意义。Chai-2 能零样本生成活性抗体，成功率提升百倍，将开发周期从数月缩至两周。未来分子生成平台或成药物研发的 GPU，合成数据将成“第三模态”。