新闻资讯8
OpenAI与Anthropic互评:Claude幻觉明显低
量子位
AI 摘要
OpenAI和Anthropic互评模型,这是业界首次。结果显示,Claude幻觉低、更能守秘密;越狱测试各有千秋;推理模型在欺骗策略测试中无一致危险模式,不同公司模型表现差异小。
阅读原文 · 量子位
OpenAI和Anthropic罕见互评模型:Claude幻觉明显要低
OpenAI和Anthropic罕见合作,互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与,从指令层次、越狱、幻觉、欺骗策略等方面评测,呈现各模型优缺点。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯7
OpenAI:Astra、GPT - 6训练因安全暂停
OpenAI宣布暂停内部最强大模型强化学习,Astra模型暂停训练两周,GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施,或有营销意图。
AI寒武纪
新闻资讯7
Cursor:晒Claude退订截图送200美元!
Cursor员工Lauren公开喊话,让考虑切换到Cursor加Grok Bot的人发取消其他订阅截图,送一个月免费Ultra(每月200美元)。大量网友行动,但很多人私信石沉大海,有人吐槽处理慢。这或是Cursor借被SpaceX收购之势进攻Claude Code。
新智元
新闻资讯7
Fable 5.1泄露,Claude全球大宕机!
今日,Fable 5.1被曝开启灰度测试,部分Claude用户已免费试用。推测其可能很快全量推送且不涨价。此前Fable 5因性能强受限,开发者期待5.1版。同日Claude全球大宕机,Anthropic正冲刺万亿估值。
新智元
新闻资讯7
OpenAI公布AI攻击防御指南
OpenAI联合创始人兼总裁Greg Brockman在Blog中警告,前沿AI Agent能自主找漏洞并发动网络攻击,AI降低攻击门槛,防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措,呼吁行业共建安全生态。
量子位