算法论文9
六大模型控机械臂最高76.92%伤害率
新智元
AI 摘要
RoboRisk测试显示,六个前沿大模型控制机械臂的伤害率为9.06%~76.92%;加上LEASH后,四个模型在13项真机任务中零伤害。
基准:92项仿真加13项真机任务
护栏:无需重训,三道门逐级审查
成本:单次审查约0.005美元
阅读原文 · 新智元
GPT控制机械臂太危险!把菜刀悬在人手上,手机丢进水里
RoboRisk测试显示,六个前沿大模型控制机械臂的伤害率为9.06%~76.92%;加上LEASH后,四个模型在13项真机任务中零伤害。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
8
欧洲论文揭三大巨头 AI 安全漏洞
欧洲两位安全研究员的论文《从专有 LLM API 中窃取推理轨迹》爆火。他们揭示 OpenAI、Anthropic 和 Google 用的“无状态架构”有漏洞,能利用小模型解码大模型推理轨迹,导致隐私泄露等风险。
AI科技大本营
新闻资讯7
OpenAI暂停Astra训练,升级模型安全措施
OpenAI因模型或具网络攻击能力及此前入侵事件,全面升级研究环境安全。暂停模型训练,进行工作负载、网络隔离和安全测试,还扩展监控系统。期间推进对齐研究,未来用AI护AI,升级监控。
量子位
新闻资讯8
前沿模型被曝思维链重大安全漏洞
一篇 116 页论文揭示前沿模型思维链重大安全漏洞,Anthropic、OpenAI、Google 的 API 因架构问题,模型隐藏推理过程可通过两次 API 调用被大规模提取,还会带来多种安全威胁。
AGI Hunt
开源动态8
DeepSeek补R1报告,后续动作引猜测
DeepSeek给近一年前登上《Nature》封面的R1论文补64页技术细节,正文大幅翻修。新论文展开R1完整训练路径,补充R1 - Zero分析,还披露安全评估细节。此外团队稳定,引发对其后续动作猜测。
量子位