「AI安全审计」共找到 10104 篇相关文章
AI越会思考，越容易被骗？「思维链劫持」攻击成功率超过90%
独立研究者Jianli Zhao等人新研究发现，思维链劫持攻击通过在有害请求前填充无害解谜推理序列，能对推理模型实现越狱攻击。在HarmBench基准上，对多模型攻击成功率超90%，揭示思维链推理存在新安全漏洞。
告别“炼丹玄学”：上海AI实验室推出首个大模型数据竞技场OpenDataArena
上海人工智能实验室OpenDataLab团队推出开放数据竞技场OpenDataArena，致力于将数据质量评估从“玄学”变为“科学”。它有数据评测榜单和完整可复现的数据价值验证体系，为多类需求提供解决方案，还开源了核心工具。
11位顶尖数学家发了篇没结果的论文，陶哲轩推荐都关注一下
11位顶尖数学家发起First Proof实验，设计10道研究级数学问题，检验AI独立解决问题的能力。陶哲轩认为实验有趣，当前AI一次性提示难解题，截止期限前成果值得关注。
Meta新任副总裁：Manus创始人肖弘，90后
Meta正式收购AI智能体初创公司Manus，创始人肖弘出任Meta副总裁，交易金额或达数十亿美元。Manus技术强、营收高，其加入将助Meta打造AI产品，收购具象征意义。
昨夜，Claude智能体压垮华尔街，近万亿刀市值蒸发
昨夜，Anthropic发布新一代AI工具「Claude Cowork」及11款职能插件，被视为AI向「独立员工」跨越的分水岭，动摇SaaS软件根基，引发华尔街恐慌，众多软件公司股票遭抛售。
上线12天跑赢ChatGPT！Meta爆款AI自曝老底，灵魂文件来自OpenClaw
Meta推出的个人智能体Muse上线12天累计装机280万次，下载量跑赢ChatGPT登顶美区App Store，随后被曝核心设计沿用开源项目OpenClaw框架，Meta高管承认借鉴，本文梳理事件始末并分析行业趋势。
AI编程Token消耗降低神器：RTK（Rust Token Killer）实战指南
文章介绍RTK（Rust Token Killer），它能在CLI命令输出到LLM上下文前智能过滤压缩，节省60 - 90%Token。文中说明了其原理、特性、压缩策略，还给出安装配置步骤、实测数据及使用建议。
ChatGPT正式上线广告主平台，AI产品从今天开始走向分裂。
今日凌晨，OpenAI更新ChatGPT，上线非推理模型GPT - 5.5 Instant，还官宣向企业主全量上线广告平台。此前广告已在部分地区测试，付费和未成年用户无广告，免费用户可选择关闭但功能受限。投放端向美企开放，出价高，这或成AI产品宿命。
OpenClaw大更新，AI智能体不再是黑箱！官方口号：少点神秘
4月25日，OpenClaw发布v2026.4.25版本，官方口号“Less mystery， more machinery”。此次更新核心指向AI智能体下半场要更透明、可控，涵盖语音、可观测性、插件启动等多方面改进。
Claude新模型危险，鲍威尔召集华尔街紧急开会！全美安全股暴跌2万亿
Anthropic的新模型Mythos能力超强，被指或对金融业造成重大风险。鲍威尔和贝森特紧急召集华尔街开会预警。消息传出，美国软件板块暴跌，SaaS领域近2万亿美元市值蒸发。Anthropic拒绝向公众发布该模型，启动防御项目。