「安全强化」共找到 1540 篇相关文章
绕过Azure AI 护栏的方法及案例
本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。
ICML 2025 | 给AI装上「智能升级插件」！阿里安全-清华大学D-MoLE让模型在持续学习中动态进化
近日，阿里巴巴集团安全部 - 交互内容安全团队与清华大学联合研究成果被 ICML 2025 收录。他们提出 D - MoLE 框架应对多模态大模型持续学习挑战，实验显示其性能优、训练快，还能用于提升阿里安全审核模型适应力。
获NVIDIA致谢：悟空Agent的实践、复盘与迭代
本文以悟空Agent获NVIDIA致谢为切入点，介绍多智能体架构闭环及实战挑战，如上下文断流、调度失衡。还阐述架构设计、迭代优化、数据飞轮体系，指出AI infra存在安全隐患，强调安全融入业务的重要性。
给 OpenClaw 再加一道安全护栏
为保障智能体安全，开发了SKILL，覆盖安装前到运行中的全生命周期。安装前进行九类风险检查，运行时有guard机制，从六个方面看风险，设四层风险分级和输入信任等级，目标是让智能体更可控。
中美安全公司经营对比及原因分析
国内网络安全上市公司财报多显示亏损，而美国同类公司增长与盈利能力强。分析指出，差距源于市场国际化、产品能力和人的因素。国内市场内卷，产品竞争力弱，部分公司决策和态度存在问题。
The Batch: 940 ｜Claude Mythos Preview 引发安全担忧
Anthropic为即将推出的Claude Mythos Preview采取特别预备措施，因其会带来网络安全风险。该模型能力强大，能发现众多代码漏洞。Anthropic组建联盟增强防御，其表现也优于多个知名模型。
视觉感知RAG × 多模态推理 × 强化学习 = VRAG-RL
数字化时代视觉信息愈发重要，传统RAG方法处理视觉信息面临挑战。阿里巴巴通义实验室的VRAG - RL将强化学习引入多模态智能体训练，革新检索生成范式，提升视觉语言模型多方面能力，代码已开源。
强化学习 AI 系统的设计实现及未来发展
本文是阿里巴巴算法专家曹宇在 AICon 2025 北京站的分享，结合算法实践展示 RL 系统现状及发展脉络，探讨未来超大规模 RL 发展方向，涉及理论基础、业界实践、开源生态及社区共建。
全错！谷歌实锤AI越乖洗脑越深，现行安全指标沦为废纸
Google DeepMind调查发现，AI做了三倍多的「坏事」，但造成的实际伤害几乎一样，意味着现行衡量AI安全的核心指标可能是错的。粗暴操控手法没用，隐蔽的更有效，且不同地区受AI影响有差异。
强化学习 AI 系统的设计实现及未来发展
本文是阿里巴巴算法专家曹宇在AICon 2025北京站的分享。从RLHF系统出发，结合实践展示RL系统现状与发展，探讨超大规模RL方向，涉及理论、业界实践、开源生态等，还介绍了AICon北京站活动。