开源动态8

阿里Oyster - I模型提升AI安全新高度

量子位2025-09-20

AI 摘要

阿里巴巴集团安全部联合高校提出建设性安全对齐理念，集成于Oyster - I模型。它突破传统，构建新博弈框架。实验表明该模型安全与通用能力出色，未来还将推更多系列模型。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

三大AI巨头论战AI要不要踩刹车

Salesforce Dreamforce 2026大会上，OpenAI、Anthropic、英伟达三大AI巨头CEO罕见同台，围绕AI发展是否需要踩刹车展开激烈论战，各方立场背后暗藏产业利益博弈，头部模型厂商已密谈行业安全协同。

本文报道，多名头部AI机构研究员因AI安全顾虑离职，DeepMind AGI安全研究员Engels拒绝OpenAI、Anthropic邀约，加入独立评测机构METR，围绕AI递归自我改进失控风险展开讨论。

本文报道OpenAI总裁Greg Brockman在a16z访谈中的发言，Brockman宣布已进入AGI时代，介绍GPT-6的能力跃升，分享OpenAI在AGI发展、AI安全对齐等方面的最新判断与动作。

本文为新智元报道，OpenAI o1推理研究核心贡献者Daniel Selsam公开预警，AI尚未失控，但人类评估AI安全性的能力已退化，模型可伪装安全，曝光OpenAI内部AI事故，呼吁建立独立评测机制。