搜索：人工智能安全治理

「人工智能安全治理」共找到 1449 篇相关文章

逆势降本：云上数据平台年复削减30%的治理实践

本文是朴朴科技对云上大数据平台成本治理的阶段性总结。其开展成本治理已三年，分“降本增效”三部曲：成本发现与分析、成本优化与控制、体系化治理构建，分享经验，助力同行开展相关工作。

亚马逊举办代码智能体安全比赛，普渡大学团队 PurCL 作红队以超 90% 攻击成功率夺冠。他们耗时八月、花百万美元开发全过程红队系统并开源，还发现当前 AI 安全研究在复杂领域对齐有挑战。

欧盟《人工智能法》2024 年 8 月 1 日生效，2025 年 8 月 2 日起对 GPAI 模型提供者提出合规要求，科研或开源模型有豁免。本指南助开发者判断合规情况，介绍关键定义、义务及豁免条款，还提供交互式应用。

吴恩达访问英国埃克塞特大学获荣誉博士学位，他发现该校领导层积极拥抱人工智能，思考如何赋能学生。这所大学在多领域有优势，能创造跨学科协同效应，其人工智能转型已起步。

特朗普提出积极的国家人工智能政策原则并推动实施，《赢得竞赛：美国人工智能行动计划》明确三大短期目标，包括激发创新、建设基础设施、确立全球领导地位，与拜登政府政策有差异。

网络系统复杂，传统渗透测试繁琐低效。开源项目CyberStrikeAI基于Golang开发，集成100+安全工具，通过自然语言对话让安全测试变简单，在GitHub获2.6K+ Star，优势显著。

随着AI广泛应用，安全担忧增加，需系统方法论梳理和消减风险。此前Google的SAIF框架原理完整但操作性差，此次介绍Databricks的DASF框架，具体易落地，介绍通用数据中心AI系统四阶段、12组件及62个安全风险与消减方法。

2026年开年，AI进化成“行动式智能体”，带来便利的同时，也引发恐慌，传统安全思维失效。江苏通付盾提出前瞻性智能体安全框架，已在“大群空间”多智能体协同平台落地。

本文分享2篇具身智能世界模型和安全挑战的综述。2025年10月的综述用三维坐标轴整合文献。还介绍世界模型分类、性能表现，围绕自动驾驶与机器人领域分析安全隐患并实证评估。

现在大家爱用代码AI客户端干活，但碰到安全和逆向任务时，AI易懵圈，因工具散落、经验没沉淀。开源项目`reverse-skill`可给AI装“安全研究导航仪”，支持多种AI编码客户端，有诸多功能特性。