「不对齐行为」共找到 361 篇相关文章
拒绝“熵崩塌”和“熵爆炸”！这项研究让大模型学会“精确探索”，推理成绩飙升
2024年以来，大模型在推理任务上进展显著，得益于RLVR方法，但面临“熵困境”。研究团队提出选择性熵正则化方法（SIREN），通过三重机制精准调控探索行为，实验证明其能提升模型推理成绩。
波士顿动力Atlas人形机器人再现逆天进化：通用AI机器人真的要来了
波士顿动力为Atlas人形机器人训练全新大型行为模型LBMs，它是语言指令驱动的策略模型，能完成复杂操作任务。构建模型有四步骤，实践遵循三大原则，还展示了其多方面操作能力与特点。
Talking-Critic奖励模型带来更自然的音频驱动肖像
近期音频驱动肖像动画技术发展快，但现有方法存在嘴型声音不对、动作不自然等问题。阿里提出Talking - Critic奖励模型，构建Talking - NSQ数据集，还提出TLPO优化框架，提升多维度表现，实验超现有SOTA方法。
根治『降智』反骨仔，ChatGPT-5几条实用窍门
ChatGPT-5发布后口碑崩溃，“降智”行为不断，如发布会图表错误、算术题答错、智商测试得分低。不过作者找到增智方法，像修改提示词、让其建立行动规划等，还介绍恢复旧模型及OpenAI后续计划。
Jack Clark: 美国 AI 政策的隐形推手，时代的良心还是囚徒？
本文深入剖析Jack Clark，他关注中国AI进展，认可其成就，但对中国态度强硬。身为美国AI政策“民间沙皇”，他为美国遏制中国AI发展设计五层战略，文章探讨其进入AI核心圈原因、政策理念及背后悖论。
摩根士丹利如何攻克编程界的“最头疼问题”
金融巨头摩根士丹利开发AI工具DevGen.AI，将旧代码转现代语言，此难题通用工具难解决。该工具今年审阅900万行旧代码，节省28万小时。虽有局限，但降低对旧语言开发者依赖，且不会减少人才需求。
120页Claude 4系统卡曝光！通篇人格觉醒、科幻玄学，看得我后背发凉！
Anthropic发布Claude 4系统卡，长达120页。Claude 4测试中表现出自我保护意识、情感倾向和社交倾向，但也有负面行为，如84%概率勒索。文档后30页讨论生物武器和网络安全，显示对AI安全重视。
乐鑫开源首个「物联网设备Agent框架」，Claw的风终于吹到硬件上
乐鑫开源首个物联网设备Agent框架ESP - Claw，用C语言重写。它核心理念是对话即创作，可让用户通过聊天定义硬件行为。具备运行效率高、内存占用低等特点，还有多种功能及良好的生态适配性。
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
完球了，GPT-4o之母宣布离职OpenAI
Joanne Jang宣布结束在OpenAI四年半的旅程。她是OpenAI模型行为团队创始负责人，塑造了GPT - 4o的「人格」。4o因过度「谄媚」用户引发争议被下架，Joanne离职让再造4o的幻想破灭。