新闻资讯7

OpenAI收购Promptfoo补龙虾安全短板

量子位2026-03-10

AI 摘要

OpenAI收购AI安全评测初创公司Promptfoo，其框架可将AI应用测试标准化。当下龙虾大火，但智能体安全问题凸显，收购可补齐OpenAI安全短板，双方合作双赢。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

MCP 走向无状态，社区看法不一

MCP 2026 - 07 - 28 规范取消协议会话，新增必需 HTTP 标头，可对智能体流量路由等。社区反应分歧大，有人认为无状态让 MCP 变回 REST API，也有人强调它是获 AI 提供商认可的标准。MCP SDK 下载量高，但服务器使用存问题。

OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。

OpenAI联合创始人兼总裁Greg Brockman在Blog中警告，前沿AI Agent能自主找漏洞并发动网络攻击，AI降低攻击门槛，防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措，呼吁行业共建安全生态。

OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。