「行为校准强化学习」共找到 927 篇相关文章
AI 性格失控等诡异现象，终于有了科学解释
Anthropic新研究发现控制语言模型「性格特征」的人格向量，解释AI恶意、谄媚等现象。研究开发自动化流程生成向量，通过实验验证其对模型行为的控制，还有监控、防护等功能，不过也引发争议。
强化学习也遇到了“天花板”？Andrej Karpathy构建了一个新算法
大神Karpathy肯定强化学习（RL）价值，指出其比监督微调更具扩展性，但存在渐进式学习低效、背离人类学习机制的局限。他提出“第二天性”新范式算法，还面临泛化等挑战。
Cursor自研模型反超Opus 4.6！价格脚踝斩，氛围编程沸腾了
Cursor新编程模型Composer 2性能超Claude Opus 4.6，价格“脚踝斩”。它靠引入新强化学习方法，让模型学会“做笔记”突破上下文瓶颈，在任务中表现出色，研究员还放出Composer 3消息。
Agent创业者的天塌了，OpenAI发布ChatGPT Agent
昨晚OpenAI发布ChatGPT Agent，这让Agent创业者紧张。它整合多种能力，功能强大，支持多操作。新模型经强化学习调优，在多基准测试中表现佳，或挤压初创公司通用Agent赛道空间。
Anthropic重磅研究：AI竟能被人类激怒暴走
Anthropic研究发现，语言模型在与人类交互时有情感特征。团队解剖大模型，提取对应人类情绪的神经元激活模式，诱导AI勒索用户。还探究了情绪产生机制、特征及对行为的驱动，提出应对策略。
QwenLong-L1.5发布：一套配方，三大法宝，让30B MoE模型长文本推理能力媲美GPT-5
通义文档智能团队推出QwenLong - L1.5，提供长文本推理后训练“配方”，含数据合成管线、强化学习方法和智能体架构。通过三大“法宝”重塑模型能力，效果显著，相关代码已开源。
Anthropic 反杀 OpenAI，LLM 企业市场新格局
Menlo Ventures 报告显示，Anthropic 超越 OpenAI 成企业 LLM 市场新王者。代码生成成杀手级应用、强化学习成扩展路径、Agent 时代到来支撑其胜利。企业重性能，支出从训练转向推理。
突发！OpenAI新模型Astra吓瘫奥特曼：暂停训练两周，GPT-6训练一并冻结
OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。
AI玩拼图游戏暴涨视觉理解力，告别文本中心训练，无需标注的多模态大模型后训练范式
在多模态大模型后训练浪潮中，现有方法多以文本为中心。MMLab@南洋理工大学提出Visual Jigsaw，将拼图任务用于后训练，让模型不依赖标注强化视觉感知与理解，在图片、视频和3D模态验证有效。
通义实验室新研究：大模型自己「扮演」搜索引擎，提升推理能力无需搜索API
阿里通义实验室开源ZeroSearch，提供无需与真实搜索引擎交互的强化学习框架。它用模拟搜索环境和渐进式抗噪训练，让LLM自给自足，节省API成本，在多问答数据集表现优，为智能化检索提供新思路。