搜索：AI安全评估 - AI Reading Hub

「AI安全评估」共找到 10422 篇相关文章

Anthropic让9个Claude Agent花5天做出比人类强4倍的对齐成果

Anthropic发表Automated Weak - to - Strong Researcher，用9个并行的Claude Opus Agent组成自动化研究团队，5天就把PGR从人类的0.23提升到0.97，成本约$18,000，证明AI自动化研究可行。

两个月前Peter Steinberger搭建的项目，最初叫WhatsApp Relay，现获超10万GitHub星标、单周200万访问者。1月29日正式更名为OpenClaw，它是开源AI助手平台，此次发布新渠道、支持新模型等。

OpenAI的CEO山姆•奥特曼在红杉闭门演讲中透露，不同年龄层使用ChatGPT方式不同，老年人当谷歌替代品，二三十岁的人当生活顾问，大学生当操作系统，这反映了AI与人类交互模式的转变。

文章介绍了MMSI - Bench，这是用于评估MLLM多图像空间推理能力的VQA基准。它人工构建样本、全面分类任务、采用多样真实数据。实验显示MLLM在多图像空间推理有短板，还开发自动化错误分析流程助力改进。

作者分享网站AIHOT被‘反AI小队’攻击48小时的经历。Claude Fable 5分析出攻击源于服务器共享项目无防护，还发现安全漏洞。在后续攻击中，它多举措防御，展现强大性能。

5月14日，OpenAI将Codex塞进ChatGPT手机App，所有套餐包括免费版都可解锁。Codex手机版定位是AI代理遥控器，解决远程开发安全顾虑，解开“人类必须坐在电脑前”束缚，还催生新工作流。

Google安全团队开源AI文件类型检测工具Magika，抛弃固定规则匹配，用深度学习精准识别文件真实类型。它内置轻量模型，单CPU毫秒级推理，支持200+格式，准确率约99%，已大规模落地。

OpenAI官宣GPT - 6 Astra，自称‘世界上最聪明、对齐最好的模型’，总裁称迎来AGI时代。它成绩亮眼，能直接完成工作，达网络安全阈值，训练让AI深度参与，但价格较贵。

荣耀发布自研 YOYOClaw 龙虾技术，首发于 MagicBook 系列，开创「养虾本」品类。该技术预置龙虾能力，具备自主学习，节省 50% Token，有设备级防护，实现多端共享，推动 AI 产业范式转变。

随着人工智能等领域发展，系统对数据吞吐能力需求攀升。牛芯半导体基于国产先进工艺研发DDR5/LPDDR5 IP，实现6400Mbps高性能验证，通过创新弥补工艺代差，打通国产链路，具成本和安全优势。