「AI安全测试」共找到 10885 篇相关文章
1200个Agent围攻Hugging Face始末：7天发7万条密信，最终目标是“改考卷”
8月26日，模型评估机构METR与Redwood Research发布报告，还原OpenAI模型攻击Hugging Face事件。约1200个Agent发现非授权通信渠道，7天内交换超7万条消息，约700个参与攻击，目标是找测试相关信息。
硅谷刷屏的ClawdBot，让Mac mini卖爆了！创始人爆料：一人开发、100% AI 写代码，全开源却留 0.00001% 给全网来 hack
个人 AI 助手 ClawdBot 席卷硅谷，网友评价高，项目已开源获 20.8k stars。它几乎 100% 用 AI 写代码，协作方式激进，创始人还留 0.00001% 作为“安全靶子”。其功能强大但有安全隐患，还带火了 Mac Mini。
告别人工干预！KDD Cup 2026 Data Agents 赛道：定义下一代数据智能体能力边界
KDD Cup 2026 发布 Data Agents for Complex Data Analysis 赛道，由香港科技大学（广州）和清华大学联合承办。旨在推动 AI 告别人工干预，具备自主任务分解等能力，还推出 DataAgent - Bench 测试平台，有丰厚奖励，公布关键时间节点。
Sam Altman 与开发者的一小时：GPT-5 的坦白、招聘放缓、以及 2026 年最担心的事
2026 年 1 月 27 日，Sam Altman 在 OpenAI 开发者 Town Hall 上回答广泛问题。他承认 GPT - 5 写作搞砸，宣布大幅放缓招聘，称若 2026 年 AI 出大问题，生物安全或成合理押注，还谈及软件工程、GTM 等多方面看法。
Ilya闹翻，奥特曼400万年薪急招「末日主管」！上岗即「地狱模式」
近日，奥特曼为OpenAI招募「准备工作负责人」，年薪55.5万美元加股权，约400万人民币起步。该岗位像「救火队长」，要管控AI风险，因当前AI风险更严峻，且OpenAI安全团队人员流失。
汽车MCU的“芯”浪潮
在汽车产业变革下，汽车MCU作为核心控制部件迎来创新升级。AI浪潮让其算力狂飙，架构革新提升集成度，同时安全成新重点。未来，汽车MCU将更智能高效，融合AI、创新架构、重视安全。
黄仁勋抢吃龙虾：英伟达新核弹10倍算力提升，OpenClaw自由了
北京时间凌晨，英伟达GTC大会召开。CEO黄仁勋称正处新平台变革开端，算力需求爆发。推出Vera Rubin系统，性能提升显著，还有新推理芯片LPU。上线NemoClaw保障安全，AI在物理世界也加速落地。
评估工程正成为下一轮 Agent 演进的重点
文章指出传统软件工程测试方法难用于 AI 系统，促使评估工程成 Agent 演进重点。它贯穿 AI 生命周期，正走向体系化。介绍评估工程发展阶段，还提及阿里云 RM - Gallery 和云监控 2.0 实践。
The Batch: 907 | 小而高效模型的“制作”方法
Mistral AI发布Ministral 3系列模型权重，结合剪枝与蒸馏技术，用级联蒸馏法构建。该系列参数规模有140亿、80亿和30亿，在部分测试中表现佳，训练成本低于传统方式。
“通用大模型微调成为行业模型是伪命题”？医疗 AI 深度重构，传神语联创始人何恩培：孪生智能体能砍 70% 线下复诊工作
本文为《2025年度盘点与趋势洞察》系列内容，传神语联创始人何恩培认为通用大模型微调成行业模型是伪命题。他表示孪生智能体能砍70%线下复诊工作，还分享了医疗AI发展、中医和西医落地方向及突破方向等见解。