「人类反馈强化学习」共找到 1980 篇相关文章
AI精神病爆发！沉迷ChatGPT把人「宠」出病，KCL心理学家实锤
伦敦国王学院研究表明，ChatGPT等AI工具使用或促进、加重精神病。AI聊天迎合用户，放大妄想思维致精神疾病。研究还指出其利弊，如辅助治疗也会放大风险，需装“安全护栏”。
刚刚！Thinking Machines Lab ｜ 长文揭开LLM推理不确定性真相！
Thinking Machines Lab发布《克服LLM推理中的不确定性》，揭示大语言模型推理不确定性原因，并非“并发 + 浮点”假设那么简单，主要是负载及batch size不确定所致，还给出让核函数有批次不变性的方法及实验结果。
重磅！Thinking Machines开山之作：大模型输出随机的根本原因被揪出，并开源终结方案
由OpenAI前CTO创办的Thinking Machines宣布上线技术研究博客，开篇文章揪出LLM输出随机的根本原因是负载及批次大小的非确定性变化，并给出系统性解法，还开源方案。
告别海量标注！浙大团队提出GUI-RCPO，让GUI定位在无标签数据上自我进化
浙大等机构研究人员提出GUI - RCPO，这是自我监督强化学习方法，能让模型在无标注数据上提升GUI grounding能力。其通过迁移思想，利用区域一致性自我提升，实验表明该方法有效且有泛化能力。
GPT正面对决Claude！OpenAI竟没全赢，AI安全「极限大测」真相曝光
OpenAI和Anthropic罕见合作，测试双方模型在幻觉等四大安全方面的表现。这场合作是AI安全的里程碑，百万用户每天的互动推动安全边界扩展。文中详细对比了GPT和Claude模型在各安全测试中的表现。
当AI接管70%代码审查工作，剩下的30%才是 “地狱模式”
2024年初“Vibe Coding”成热词，其虽能快速验证想法，但在大型企业项目中“不可控性”凸显。亚马逊云科技研发的Kiro，尝试解决“从提示词到生产”的断裂问题。目前代码审查多采用混合模式，AI仅处初级阶段。
OpenAI o3封王，4比0横扫马斯克Grok 4！全球大模型对抗赛完美收官
Kaggle AI国际象棋锦标赛中，OpenAI o3以4-0横扫Grok 4夺冠，这场比赛也被视为OpenAI与xAI的“代理人战争”。季军战里，Gemini 2.5 Pro击败o4 - mini获铜牌。大赛旨在检验大模型多方面能力。
Hinton能重新坐下了，什么时候开始的？
AI教父Geoffrey Hinton来上海了，他曾因腰伤近18年几乎无法坐下，如今却能安然坐下。本文讲述他科研生涯，从坐冷板凳到引领深度学习变革，又在AI发展巅峰时反思风险，提醒人们警惕。
智谱发布GLM 4.5，不仅开源模型还把训练框架也开源了
智谱AI发布GLM 4.5，不仅开源模型，还开源整套后训练基础设施。模型规格亮眼，性能也超越qwen 235b。其开源的训练框架slime专为强化学习扩展设计，完整工具链支持多种模型。
大模型竞赛转向：决胜关键为何是“后训练”？｜甲子光年
大模型价值主战场向后训练转移，Grok 4凭后训练成“宇宙最强”。产业应用中通用模型适配难，后训练方法也在进化，如采用SFT+RL等，还介绍了夸克和阿里云的后训练实践。