「未对齐行为」共找到 1131 篇相关文章
深度揭秘OpenAI如何让GPT-5「技术性」超越Claude：悄悄跳过最难的23道题
OpenAI发布会上称GPT-5代码能力全球第一，其在SWE-bench Verified基准获74.9%通过率，略高于Claude Opus 4.1的74.5%。但OpenAI未做23道难题，若计入，GPT-5实际通过率或低于Claude。
1亿美元买不走梦想！但只因奥特曼这句话，他离开了OpenAI
全球AI军备竞赛烧掉3000亿美元，但真正研究「对齐问题」的人不足千人。Anthropic核心成员Benjamin Mann揭秘，2020年底OpenAI安全团队因安全优先级降低集体出走。他拒绝扎克伯格1亿美元邀约，强调AI要把安全放首位。
GPT-5终于来了！在惊喜不多的时代，它是否值得我们的等待？｜甲子光年
北京时间8月8日凌晨1点，OpenAI正式发布新模型GPT-5。它是目前最强通用模型，在多方面全面进化，将成ChatGPT默认模型。不过它虽有进步，但未掀起革命，GPT系列或难有飞跃，而OpenAI仍规划了未来发展。
全球首个科研LLM竞技场上线！23款顶尖模型火拼：o3夺冠，DeepSeek第四
Ai2耶鲁NYU联合推出科研版「Chatbot Arena」——SciArena，23款顶尖大模型比拼科研任务，OpenAI o3夺冠，DeepSeek第四。该平台解决通用基准测试在科研场景‘失效’问题，但其自动评估系统猜科研人偏好远未及格。
DeepSeek-R2为什么还没发？
全网期待的DeepSeek - R2再次被曝推迟。The Information称因CEO不满其表现，且可能因缺英伟达H20芯片致研发慢。回顾其“难产”过程，网友看法不一，有人认为延迟值得，有人推测要等V4。
DeepSeek R1 的小更新，却大有深意？
5月28日，DeepSeek低调宣布R1模型小版本试升级，API接口和使用方式不变，但未公布具体更新内容。从用户反馈看，语义理解、逻辑推理等能力提升，实测表现出色。此次升级或有安全、产品路线等考量。
一个Skill让DeepSeek V4 Pro超越Fable 5？热门插件被锤了
前两天J-Space凭夸张测试结果刷屏，宣称一份Skill接入Agent环境，能让V4 Pro在多基准大幅提升，部分成绩超Fable 5。但社区复测结果相反，作者未公开完整评测记录，还删质疑帖，引发公开打假。
Ben Thompson：Agent会下单之后，Amazon 和 Shopify 活得更好了
大家以为AI会重构电商，可ChatGPT的checkout功能未成功，Shopify、Amazon等电商平台仍活得好。分析师Michael Morton指出，AI改变产品发现入口，但难抹平支付等环节，品牌官网因AI获更多流量。
告别多奖励跷跷板：Flow-OPD将多教师OPD带入图像生成
中国科学技术大学等机构团队提出Flow - OPD，这是首个将OPD引入流匹配模型的统一多任务后训练框架。它解决了流匹配模型后训练对齐中多任务的梯度冲突等问题，效果良好，未来有多个拓展方向。
这周六，聊聊具身数据、模型与落地场景｜沙龙报名
当下具身智能进入加速期，但具身模型从Demo走向真实世界运行路径复杂，存在技术路线未收敛、数据匮乏等问题。量子位等联合发起沙龙，4月25日周六14:00，一线从业者与研究者将分享经验，探讨具身智能关键环节。