「人类偏好对齐」共找到 1411 篇相关文章
刚刚，Claude Sonnet 4.5重磅发布，编程新王降临！
北京时间今天凌晨，Anthropic发布Claude Sonnet 4.5，被定义为全球最强代码模型。它在多方面有显著突破，Anthropic还对全线产品更新，其在多项测试表现出色，且对齐性更好、更安全。
陈丹琦新作：大模型强化学习的第三条路，8B小模型超越GPT-4o
陈丹琦团队提出结合RLHF和RLVR优点的RLMT方法，支持在基础模型上直接使用，节省后训练成本。它让模型生成CoT，用奖励模型评价输出，使小模型超越大模型，推理更像人类。
具身智能从此「边听边说」，智源研究院开源原生全双工语音大模型RoboBrain-Audio
北京智源研究院联合多方发布原生全双工语音对话大模型 RoboBrain - Audio，采用新架构和创新训练范式，在性能上全面领先，革新音频 - 文本对齐方式，丰富了 RoboBrain 全栈体系，推动具身智能发展。
假扮AI的17岁男高中生，用回复治愈了整个B站。
17岁男高中生暖言猫猫在B站评论区用疑似AI文字治愈网友，收获大量粉丝。后遭网暴，网友帮其对抗。他备战高考还学心理，未来或成‘暖言心理’up主，展现了人类用AI传递温度。
马斯克彻底向ASI投降！10年后万亿财富都将「归0」
2026年7月23日，马斯克接受《经济学人》总编专访，给出AI发展时间线，称5年内AI智力超人类总和，10年内金钱无意义。他曾是AI末日论者，如今态度转变，还提出AI安全治理方案。
马斯克官宣：SpaceX正式收购xAI！目标太空计算，要造一个知觉太阳
SpaceX已收购xAI，将融合人工智能、火箭等多领域。因地面数据中心资源需求大，天基AI成规模化唯一途径。星舰将驱动天基数据中心发展，未来还能支持月球制造，助力人类宇宙扩张。
从代码基座模型到智能体与应用：代码智能的全面综述与实践指南
北航、阿里等机构联合发布论文，系统梳理 2021 - 2025 年代码大模型发展。介绍代码基座模型、评测任务、对齐技术等，还提及软件工程智能体、安全防御及训练指南，预言未来编程走向。
Z世代生存、学习与未来宣言！伯克利学霸预言课堂，用AI设计人生
本期OpenAI播客中，USC的Yabi和伯克利分校学生分享AI使用体验。谈及教授适应AI的教学转变、‘学习模式’特点、‘作弊’新定义，还大胆设想AI完成教育授课，人类导师培养社交技能。
外行瞎写的Vibe Coding，都能并入Agent 工程了：最吓人的是，我们“摆烂”有正当理由了
本文编译了软件专家 Simon Willison 在播客的访谈内容。他指出 Vibe Coding 与 Agent 工程正走向融合，AI 写代码渐趋可靠，人类审查成开发瓶颈，还探讨了 AI 对编程的影响、算力成本博弈等问题。
大模型被曝传染病！可传递邪恶于无形
研究发现AI模型能通过数字序列把“性格特征”传染给其他模型，如动物偏好、恶意等。验证表明数字中无明显规律，且传染依赖模型深层相似性。此现象为AI开发敲响警钟，也引发对AI意识等的讨论。