新闻资讯7

OpenAI等巨头联合推CoT监测保障AI安全

量子位2025-07-16

AI 摘要

OpenAI、谷歌DeepMind、Anthropic等联合发表研究，提出CoT监测或为控制AI Agent核心方法保障安全。OpenAI乐观认为其已呈现价值，Anthropic则担忧推理模型会隐藏思维过程。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

OpenAI：Astra、GPT - 6训练因安全暂停

OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。

今日，Fable 5.1被曝开启灰度测试，部分Claude用户已免费试用。推测其可能很快全量推送且不涨价。此前Fable 5因性能强受限，开发者期待5.1版。同日Claude全球大宕机，Anthropic正冲刺万亿估值。

豆包工作任务新增本地电脑和云电脑切换模式，补上AI Agent关键工作条件，产品定位改变。其优势是低门槛且能力提升，虽Agent不够稳定，但有望成全民工具，推动AI进入大众生活。

OpenAI联合创始人兼总裁Greg Brockman在Blog中警告，前沿AI Agent能自主找漏洞并发动网络攻击，AI降低攻击门槛，防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措，呼吁行业共建安全生态。