「AI安全测试」共找到 11106 篇相关文章
AISPM与AI防火墙--是产品不同，还是名字不同？
文章探讨AISPM与AI防火墙是产品不同还是名字不同。介绍xSPM概念及AISPM定义，分析国内AI防火墙应对威胁能力，指出AISPM更强调过程管理，未来AISPM对维护AI安全至关重要。
2025年了，AI还看不懂时钟！90%人都能答对，顶尖AI全军覆没
AI基准ClockBench测试AI读模拟时钟能力，人类平均准确率89.1%，11个主流大模型最好仅13.3%。研究展示了LLM局限性，分析了可能原因，还对比了不同模型表现及在各类问题上的差异。
CrowdStrike联手Meta发布AI安全基准，让AI在真实网络攻击中证明自己
美国网络安全巨头CrowdStrike与Meta在Fal.Con 2025大会联合推出开源基准测试套件CyberSOCEval，旨在评估AI大语言模型在真实SOC环境下的网络安全能力，它源于Meta之前框架，开源供全球开发者使用。
拒绝OpenAI和Anthropic邀约，DeepMind安全研究员离职转向独立测评
本文报道，多名头部AI机构研究员因AI安全顾虑离职，DeepMind AGI安全研究员Engels拒绝OpenAI、Anthropic邀约，加入独立评测机构METR，围绕AI递归自我改进失控风险展开讨论。
AI甚至开始抢土木老哥的工作了
即便土木、建筑等传统行业，也受AI冲击。建筑业用AI克隆老师傅、替代部分人力，如Procore推出多款AI智能体，Skanska建立AI安全智能体。建筑AI生态矩阵正形成，国内需相关工具。
AI HR 挑选AI 简历，招聘市场正变成一场AI与AI的对决
LinkedIn求职申请过去一年激增45%，生成式AI是推手。求职者用ChatGPT优化简历、用AI代理申请，招聘方则用AI筛选和面试，还面临虚假身份问题。这引发对工作意义和真诚价值的思考。
奥特曼深夜长文警告：AI巨头必须集体「踩刹车」！
本文报道OpenAI创始人奥特曼发布深夜长文，警告AI狂飙已远超安全对齐与监控能力，存在两大致命生存威胁，呼吁全球AI巨头集体降速，推行前置安全管控机制。
720次攻击0成功！Claude Code默认放权，AI替你点「同意」
本周五起，Claude Code在新会话默认让AI替用户点「同意」。其开发者底气源于720次攻击0成功测试。不过业内人士对此不乐观，且测试有局限性，审批权移交AI有风险。
LLM 驱动的 AI Agent通信：协议、安全风险与防御对策
论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议，分析不同交互的安全风险，提出防御对策，还以MCP和A2A为例做攻击实验，给出未来研究方向。
OpenAI与Anthropic罕见合作：竞争对手联手测试AI安全
OpenAI和Anthropic完成联合评估，用内部工具测对方模型并公开结果。测试覆盖指令层级、越狱等四大领域，还发现不少细节和道德困境情况。此次合作意义重大，为行业树立安全合作先例。