「未对齐行为」共找到 1131 篇相关文章
实证研究：AI杀猪盘比人类更强，已上岗缅甸
最近一项研究显示，在杀猪盘情感博弈中，AI比人类骗子更有耐心，更易赢信任。研究人员做了AI与人类诈骗对比实验，结果显示大家更相信AI。如今AI已进入诈骗园区，虽未全面替代人类，但诈骗或更隐蔽高效。
名师一定出高徒？清华团队最新揭秘：别再迷信大模型蒸馏的「免费午餐」
当下大模型后训练中，On-Policy Distillation（OPD）成明星技术，业界采用后报告性能提升。但清华团队研究发现，换更强Teacher，Student性能可能无提升甚至倒退。研究揭示蒸馏成败条件，深挖对齐机制，还给出拯救失败蒸馏的方法。
100个产品原型同时跑、新模型Mythos断层领先，连skills效果都好到让团队意外：Anthropic内部到底在发生什么？
Claude Cowork 工程负责人 Felix Rieseberg 在播客中透露，未发布的新模型 Mythos Preview 带来“断层式跃迁”，在安全漏洞检测等方面表现出色。Anthropic 内部可同时跑上百个产品原型，执行成本降低。还介绍了 Cowork 开发、应用及产品打造经验。
坏了，我成AI的乙方了！Anthropic论文爆火，谁还敢无脑Copy？
Anthropic开年论文实锤AI让程序员变傻，用AI辅助的人比纯手写只快2分钟，且测验平均分低17%。研究将工程师使用AI的交互行为归纳为五种模式，指出主动拷问AI才能进化，高分者会主动制造障碍。
Scaling时代终结了，Ilya Sutskever刚刚宣布
Ilya Sutskever 在访谈中称「Scaling 时代已终结」，指出当前模型存在能力参差不齐、泛化不足的问题。他认为人类情绪类似价值函数，人类学习效率高。未来 AI 发展将进入研究时代，他还分享了 SSI 战略及对 AI 对齐等问题的看法。
陶哲轩用GPT5-Pro跨界挑战！3年无解的难题，11分钟出完整证明
陶哲轩与GPT - 5 Pro合作解决微分几何领域3年未解难题。GPT - 5 Pro从计算到证明一气呵成，助陶哲轩突破思维局限。陶哲轩认为AI在小、大尺度上有用，中尺度无益，还印证多尺度衡量工具有效性观点。
Altman 秀新模型“翻车”，谷歌补刀躺赢！OpenAI 前员工爆肝 3 天，编程再赢老东家模型！
近期，OpenAI 携多款未公开新模型亮相。在 IMO 竞赛中，其宣称新模型获金牌，谷歌 DeepMind 的 Gemini Deep Think 也达金牌水平，但网友对二者评价不一。此外，‘o3 Alpha’疑上线，前 OpenAI 员工还在编程赛中击败 OpenAI 模型。
开源项目捐给基金会后又往回要，维护 7 年出钱出力却被告上法庭？网友：捐了代码想收回去靠它赚钱，太无耻！
云原生计算基金会 (CNCF) 与开源消息系统 NATS 背后的 Synadia 公司就 NATS 项目的商标、域名和 GitHub 存储库控制权产生纠纷。Synadia 曾将项目捐赠给 CNCF，如今想“撤回”并变更许可证，双方各执一词，最终达成 Synadia 同意 CNCF 控制相关资产的协议。
GPT-6第1天直接攻破5道Erdős难题！Fable 5.1交了白卷
Epoch AI和曼彻斯特大学发布FME基准测试论文，让68道未解数学难题成5个顶级AI的考场。GPT - 6 Astra成唯一得分非0分模型，放宽预算共解开5道，其余4个AI全交白卷。该测试是对陶哲轩批评的回应。
李想重画具身智能
理想汽车在成立的十一年里，擅长将复杂技术与家庭出行需求对齐。2026年，理想不再满足于打造更好的家庭车，提出造能感知、思考、行动、反馈的硅基生命体。李想提出具身智能上下半场论，理想重构研发体系，以造人方式造车。