新闻资讯7

OpenAI收购Promptfoo，强化AI安全保障

AI前线2026-03-10

AI 摘要

OpenAI 收购 Promptfoo 保障 AI 智能体安全。Promptfoo 由 23 人创立，开发开源安全工具，获超 35 万开发者使用。收购后保持开源，OpenAI 将新增安全测试等功能。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

OpenAI：Astra、GPT - 6训练因安全暂停

OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。

现在写代码，很多人想开多个AI助手。Orca是支持多AI Agent的编程开发环境，各Agent在独立git worktree里运行，互不干扰。它功能丰富，还支持多系统安装。

OpenAI联合创始人兼总裁Greg Brockman在Blog中警告，前沿AI Agent能自主找漏洞并发动网络攻击，AI降低攻击门槛，防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措，呼吁行业共建安全生态。

OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。