搜索：可学习姿态对齐

「可学习姿态对齐」共找到 1584 篇相关文章

Anthropic 研究员：强化学习将推动 Transformer 实现 AGI

在 AI Agenda Live 纽约活动上，Anthropic 强化学习团队技术负责人 Sholto Douglas 称，无需新架构突破，强化学习能让 Transformer 达人类专家级别表现，接近 AGI。但定义「好表现」是难题，Anthropic 或投 10 亿美元提升模型企业应用表现。

上海人工智能实验室提出TPO方案，可让大模型在推理时快速对齐人类偏好，无需更新模型权重。TPO类似文本形式的梯度下降，在多个基准数据集评测中表现出色，还提供“宽深结合”推理拓展策略。

前特斯拉AI总监、OpenAI创始团队成员Karpathy发文称，强化学习虽能带来更多收益，但机制「可疑」，不像人类解决智能任务的方式。他提出新算法框架，还指出当前存在诸多待解决的问题。

NUS、浙江大学和香港中文大学对强化学习与视觉智能交叉领域进行系统梳理，归纳200余篇工作为四大主题支柱，剖析算法等进展，提炼关键趋势，还介绍LLM的RL方法、视觉RL阵地等。

本文介绍阿里推出的ROLL强化学习框架，专为LLM训练优化。它设计灵活，不同用户可用其满足业务、探索或线上指标需求。在多任务训练中性能出色，还采用创新机制提升效率，支持自定义操作，适合学术和业务场景。

上交博士 Kun Lei 博客提出用两个问题理解强化学习：数据从哪来、策略更新多频繁。借此梳理算法逻辑，还延伸到机器人基础模型，指出训练节奏与其实践契合。

斯坦福AI+CS博士Joseph Suarez回顾强化学习历史，指出其曾因学术短视、学界追名逐利走向衰落。如今他坚持用小模型从零开始的RL，重建标准，让研究速度和效果大幅提升。

在NeurIPS 2025上，NYU&OpenAI就Human - AI Alignment发布Tutorial。指出当前对齐像打地鼠，根源是将其当成静态、单向的，提出HAA框架，强调多元目标、人类全链路话语权及社会 - 技术系统量化监督。

在机器学习领域，模型可解释性愈发重要。结合XAI技术能提升模型透明度与可信度，如预测儿童饮食多样性、心血管疾病分类准确率很高。还整理9篇相关论文，解析两篇文章创新点、方法和结论。

在生成环境中，传统文本分类方法新增业务标签需从头训练，易致知识灾难性遗忘。今天介绍的自适应分类器，通过四项创新，可实现动态类添加和持续学习，而不会发生灾难性遗忘。