「人工智能安全治理」共找到 1490 篇相关文章
开源模型竟被用于窃取下游微调数据？清华团队揭秘开源微调范式新型隐藏安全风险
清华、墨尔本大学团队研究指出，基于开源模型微调专有模型存在新型隐藏安全风险，开源模型发布者可埋后门窃取下游微调数据，新风险难检测、危害大，目前攻防方法待改进。
欧洲科学与艺术院长 Klaus Mainzer：通用人工智能的终极通关秘籍，藏在思想史里 GAIR Live | 018
雷峰网专访欧洲科学与艺术院院长 Klaus Mainzer，他指出通用人工智能瓶颈在思想史，AGI 障碍是“具身性”哲学鸿沟。还提及量子计算等新兴技术前景，强调教育要整合，人类要担起 AI 时代责任。
现实版“盗梦空间”？欧洲极客论文全网爆火，一战戳破三大巨头安全神话，35万机密在公网裸奔
欧洲两位安全研究员的论文《从专有 LLM API 中窃取推理轨迹》爆火。他们揭示 OpenAI、Anthropic 和 Google 用的“无状态架构”有漏洞，能利用小模型解码大模型推理轨迹，导致隐私泄露等风险。
Claude Opus 4.7炸场，6美元造《我的世界》，临门AGI前强调安全，打工人却更慌了
Anthropic 发布‘目前最强 Opus 模型’Claude Opus 4.7，能力跃升，在多榜单夺冠。写代码、看图表等能力提升，也有网页搜索等能力下降。还展现出游戏开发实力，同步上线Claude Code新功能，加强安全防护。
突然爆火！近千人大排长龙安装！有人宣称短短数日已赚26万元！昆明市场有人报价300元；官方发声：警惕安全风险
OpenClaw是一款开源AI智能体，能接管电脑完成多种任务，但安装复杂。这催生“代装AI”生意，有人数日赚26万，腾讯免费安装引千人排队。不过，其部分实例存安全风险，官方提醒防范。
“中国AI变强，对全球安全反而是一件好事！” DeepMind传记作者：神秘模型Mythos被紧急下架，OpenAI的同款武器却被放了一马
DeepMind传记作者塞巴斯蒂安·马拉比认为，硅谷“谁先造出AGI谁通吃全球”是幻觉，AI虽实际裁员不多，但恐慌感会放大。还指出OpenAI财务窟窿大，中美AI实力均衡利于全球安全，美国政府监管混乱。
硅谷“甄嬛传”第二季！Ilya 与 Amodei 把 Sam Altman 再次推上审判席
纽约客最新报道重提 2023 年 OpenAI 董事会政变旧案，指出诸多悬而未决问题，如董事赶走 Sam Altman 的原因、科学家 Ilya 态度转变等，揭示 OpenAI 在安全与治理方面的裂缝及 AI 权力集中缺乏约束的困境。
OpenClaw 类自主智能体生态构建
文章围绕OpenClaw类自主智能体生态展开，从生态视角、记忆系统、上下文管理等多方面阐述其构建，还分析了安全风险、治理体系、角色分工及面临的挑战与机会，为理解和发展Agent生态提供参考。
重新审视SFT的泛化能力：优化动态、数据与模型能力的条件性分析
上海人工智能实验室等联合研究质疑了‘SFT倾向于记忆，RL实现泛化’观点，指出SFT泛化是条件性现象，受优化动态、训练数据、基模型能力影响，还揭示长思维链SFT会带来安全性能退化。
监管正式落地严查，全国首部AI产品合规标准来了
自2023年相关办法发布，国家监管网越织越密，AI产品合规成企业必答题。《生成式人工智能产品安全与合规指南》团体标准应运而生，构建全生命周期合规体系，有全链路、全场景、全配套亮点，还公开征集起草单位与专家。