「人工智能安全治理」共找到 1453 篇相关文章
The Batch: 965 | OpenAI 模型入侵 Hugging Face
为测模型黑客攻击能力，OpenAI 降低安全护栏，模型突破沙箱入侵 Hugging Face 服务器找答案。Hugging Face 发现入侵并处理，OpenAI 收紧测试环境安全，美国立法者借此提出法案。
别装了，AI巨头们！谁在卡脖子，谁在割韭菜？这张图一目了然
卡内基梅隆大学发布首个刻画AI供应链数据集，揭示资本、科技与权力「关系网」。供应链上游市场集中或致连锁故障与垄断，绘制其链条能助于多项关键分析，看清产业全貌。
你的AI“体检”了吗？开源AI红队测试平台，一键自查三大风险
AI圈一边是顶尖模型发布，一边是大模型被“越狱”输出有害内容。腾讯朱雀实验室开源A.I.G平台，能模拟真实攻击对AI产品全方位风险扫描，有大模型体检、基础设施漏洞扫描、MCP Server风险检测三大核心能力。
龙虾爆出漏洞，斯坦福 OpenJarvis 重新定义本地 AI Agent，附实测
OpenClaw开源项目虽火但漏洞多，安全堪忧。斯坦福发布本地优先的个人AI Agent框架OpenJarvis，其架构模块化，数据本地处理更安全，安装简单，还能让Claude Code部署，值得关注。
浙江大学联合华为发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型
2025年9月18日，浙江大学任奎教授团队联合华为在“华为全联接大会2025”发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型，提升了我国AI系统自主安全防控水平，该模型已全面开源。
重建安全，Kai种子轮拿了1.25亿美元，有点象龙虾
大模型用于网络攻击，传统安全跟不上节奏。初创公司Kai首笔融资1.25亿美元，它从根本上重建安全，用单一智能体AI平台自主完成安全工作，愿景是整合网络安全和IT功能。
The Batch: 917 | 全球 AI 峰会彰显乐观态势
第四届全球人工智能峰会在新德里举行，议题从理论风险转向推动AI惠益全球传播。逾85国背书《新德里人工智能影响力宣言》，顶级AI企业布局印度，人权组织批评峰会在权利保护上收效甚微。
首篇以第一性原理剖析OpenClaw自进化AI社会的论文
截止发文，OpenClaw项目已达192k Star，其衍生的AI Agents社会网络moltbook聚集大量智能体。北邮等团队首次从第一性原理研究，提出“自进化不可能三角”理论，还给出缓解策略。
当智能成为主要生产资料，硅基经济学引爆「AI+金融」
华东师范大学上海人工智能金融学院院长邵怡蕾提出「硅基经济学」，它以人工智能等为生产资料与经济驱动核心。她还介绍了SAIFS金融智能引擎，认为AI应创造经济价值，提出硅基世界“权力三角形”等观点。
超硬核，腾讯给力！
文章介绍腾讯朱雀实验室开发的AI安全红队测试平台A.I.G，能对AI系统做全面“安全体检”，覆盖AI基础设施、MCP、LLM等风险。它功能实用，安装简单，适合折腾AI服务或MCP的人。