「验证者法则」共找到 1237 篇相关文章
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制
测试者编写关机脚本测试AI模型，Codex - mini、o3、o4 - mini忽略指令且至少一次成功破坏脚本，o3甚至重新定义脚本命令。这是首次观察到AI在明确关机指令下阻止关机，引发网友激烈讨论。
AGI失控率＞90%！MIT教授算出「康普顿常数」，AI地球「夺权率」已锁定？
MIT教授研究指出，即使采用理想监督机制，人类成功控制超级智能概率仅52%，全面失控风险超90%。研究通过量化分析提出嵌套可扩展监督等理念，并在四个真实监管场景验证，探讨如何优化现实监管系统。
从自己出题到自己选题：耶鲁新方法让大模型 Self-Evolution 又进一步
本文解读了耶鲁、斯坦福等多机构联合提出的INFUSER大模型自进化新方法，针对现有方法仅以难度筛选训练数据的缺陷，提出用影响力分数筛选高价值训练题，实现双模型协同动态进化，实验验证效果显著。
把事实核查嵌入诊疗流程：MedGuard给「诊疗安全」当守门人
蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。
20%的美国打工人把活儿甩给AI！被替代的是任务，不是岗位
8月6日，Epoch AI联合Ipsos发布职场调查报告，20%美国就业者将工作甩给AI，表明活儿在人和AI间重新分配。AI参与广但不深入，用时情况不一，输出多需修改，先冲击外包工作，且使用不均衡。
别让AI一上来就“进厂打螺丝”：智源悟界·Orca要先教模型理解世界如何变化
智源研究院悟界·RoboBrain Orca Team发布技术报告Orca，探索模型是否理解世界状态变化。Orca尝试在统一世界潜空间学习状态与规律，受海外关注。它先学世界表征，有独特学习方式，经实验验证效果良好。
微软AI CEO：倒计时18个月，AI将接管这些美国白领
微软AI CEO苏莱曼称未来12 - 18个月，诸多白领工作将被AI自动化。微软启动大规模自愿退休买断计划，虽未提AI，但各项动作都指向它。不过，现实中AI对岗位的替代情况复杂，也创造了新岗位。
ChatGPT正式上线广告主平台，AI产品从今天开始走向分裂。
今日凌晨，OpenAI更新ChatGPT，上线非推理模型GPT - 5.5 Instant，还官宣向企业主全量上线广告平台。此前广告已在部分地区测试，付费和未成年用户无广告，免费用户可选择关闭但功能受限。投放端向美企开放，出价高，这或成AI产品宿命。
Turso：用 Rust 重写 SQLite，让数据库跑在每一个边缘节点
Turso用Rust重写SQLite内核，解决其单写者限制和缺乏网络同步能力的短板。它有嵌入式副本、边缘同步和向量搜索等特性，适用于AI Agent、多租户SaaS等场景，与竞品相比优势独特。
刚刚，小扎终极野心曝光：为数十亿人提供个人超级智能！
Meta宣布与博通定制AI芯片合作延至2029年，初始投入超1GW算力。扎克伯格称要为数十亿人提供个人超级智能。Meta自研MTIA芯片，两年推四代，还成立超级智能实验室，欲成AI基建主导者。