「人工智能安全治理」共找到 1453 篇相关文章
大规模工程支撑场景下的多智能体系统设计：Grab 实践案例
Grab分析数据仓库（ADW）团队推出多智能体AI系统，处理数据仓库故障排查等工程请求，减少重复性运维。团队搭建多智能体架构，整合工具生态，考虑安全治理，解决上下文管理挑战，提升工作效率。
AI Agents的DeepSeek顿悟时刻：AutoHarness
文章介绍开源项目「Aha」— AutoHarness，这是面向AI Agent的自动化Harness Engineering轻量级治理框架，能让智能体迎来顿悟时刻。对比了其与LangGraph、OpenAI SDK能力，还给出核心架构、安装及使用示例。
美国州政府生成式AI应用报告
今年2月，美国阿拉巴马州州长签署行政命令推动生成式AI在州政府大面积应用，并发布深度应用报告。报告涵盖应用现状、伦理风险与策略、数据管理、政策治理等方面，为生成式AI在政府应用提供指引。
别怀疑，就是这么强！！！13.7k Star Casdoor，爽爽爽爽爽～～～～
Casdoor是可自己部署的IAM/SSO服务端，像“身份门”，一次认证后将多种身份管理功能集成。它协议覆盖广、能衔接认证与权限管理等。但使用时也得认真治理，避免越权问题。
Virustotal对OpenClaw恶意技能(Skills)的跟踪分析
增长最快的个人人工智能代理生态系统OpenClaw沦为恶意软件新传播渠道，VirusTotal检测到数百个OpenClaw技能存在恶意行为。其介绍了OpenClaw相关信息，还提及新增支持及案例，最后给出安全建议。
OpenAI Sora 2 登场！同步推出APP，Altman称这是创意领域的「ChatGPT 时刻」
OpenAI官宣新一代AI视频模型Sora 2，在物理准确性、逼真度等方面刷新SOTA，实现「音画同步」。Altman称其为创意领域的「ChatGPT时刻」。还推出Sora App，有新玩法，且在安全治理上布下「安全网」。
五角大楼计划将绝密数据喂给AI，训练军事特供版模型
《麻省理工学院技术评论》称，五角大楼正讨论为生成式人工智能公司建安全环境，用机密数据训练军事特定版本模型。美国军方重构战略，推动先锋项目，还筹备用绝密数据训练模型，引发安全担忧。
斯坦福2026 AI指数报告！中美差距已实质性抹平
斯坦福HAI发布2026年度人工智能指数报告，显示中美在顶级大模型性能上差距已实质性抹平。报告还呈现了AI能力进化、算力格局、智能边界、安全监管、人才流动等多方面情况。
OpenAI波兰双雄：GPT不是偶然！再忆奥特曼被逐当天实况
OpenAI宫变时，Jakub Pachocki与Szymon Sidor力助奥特曼翻盘。他们高中相识，因AlphaGo加入OpenAI。ChatGPT并非偶然，是团队深耕成果。二人推动推理模型发展，强调AGI发展中对齐问题重要，要兼顾能力与安全。
马斯克彻底向ASI投降！10年后万亿财富都将「归0」
2026年7月23日，马斯克接受《经济学人》总编专访，给出AI发展时间线，称5年内AI智力超人类总和，10年内金钱无意义。他曾是AI末日论者，如今态度转变，还提出AI安全治理方案。