新闻资讯7
OpenAI与Anthropic联手测AI安全
AGI Hunt
AI 摘要
OpenAI与Anthropic联合评估对方模型，测试涉指令、越狱等多领域。各模型表现有差异，如Claude保守、OpenAI幻觉率高。合作本身意义重大，为行业安全合作立了先例。
阅读原文 · AGI Hunt
OpenAI与Anthropic罕见合作：竞争对手联手测试AI安全
OpenAI和Anthropic完成联合评估，用内部工具测对方模型并公开结果。测试覆盖指令层级、越狱等四大领域，还发现不少细节和道德困境情况。此次合作意义重大，为行业树立安全合作先例。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
Anthropic实测：小模型可成AI蠕虫
本文报道Anthropic最新研究实验，证实断开云端的小模型可在廉价家用智能硬件上自主完成自我复制、繁衍进化，分析了AI蠕虫的风险、演进时间与防范方案，为网络安全提出新警示。
AI寒武纪
新闻资讯9
陶哲轩发第三篇长文反击OpenAI
本文报道OpenAI、Anthropic等大举推进AI数学研究，菲尔兹奖得主陶哲轩连发三文反击其营销式研究模式，指出AI滥用对数学生态的破坏，提出Math 2.0框架并给出落地案例。
PaperAgent
新闻资讯9
硅谷三大巨头集体冲刺RSI
本文曝光硅谷AI巨头谷歌、OpenAI、Anthropic暗中集体冲刺递归自我改进（RSI）技术，多家已出现AI自主写代码、优化模型的早期迹象，业内热议RSI或将加速超级AI到来，带来不可控的生存风险。
新智元
新闻资讯9
AI蜂群24小时破整数乘法世界纪录
本文报道OpenAI发布数学难题挑战后，人类研究者联合开源社区AI智能体蜂群，仅24小时就将OpenAI第109号整数乘法下界难题的核心参数实现数亿倍突破，展现了人+AI协作的去中心化科研新范式。
新智元