「安全合规」共找到 987 篇相关文章
比传统方法强7倍：Anthropic物理隔离危险知识，重塑大模型安全训练范式
Anthropic团队提出选择性梯度掩码技术（SGTM），在训练阶段将危险知识物理隔离到特定参数并剔除，实现安全性与通用能力更好平衡，抗恢复性是传统方法7倍，还能处理未标记危险数据。
医疗AI新标准来了！现公开征集起草单位和专家！
当前人工智能与医疗卫生融合机遇大，国家有相关规划，市场规模将大增。但医疗AI发展受数据安全与隐私保护制约。现智合标准中心等组织编制全国首部医疗AI数据安全团体标准，还公开征集起草单位和专家。
不写、不看、不审查：这家安全公司决定不再让人类碰代码，还把这套模式开源了
2026年2月，安全公司StrongDM公开“软件黑灯工厂”式生产线成果，人类不直接写代码和审查，由Agent自动生成。该模式开源，虽有开发者指出问题，但获学界认可，不过面临成本高的现实问题。
模型砍掉一大半，准确率反升15%！华科&阿里安全新研究实现ViT近乎无损的类特定压缩｜ICLR'26
华中科技大学联合阿里安全部提出Vulcan方法，一改传统压缩策略，通过“先训练再剪枝”实现ViT近乎无损的类特定压缩，为大模型服务小场景提供新路径，论文已被ICLR 2026接收。
苹果疯狂狙击Vibe Coding App
苹果在App Store对多款Vibe Coding应用采取限制措施，阻止更新、下架产品。苹果称是因应用绕过审核机制，存在安全风险，但开发者质疑其动机，背后或有商业利益考量，网友也吐槽苹果政策陈旧。
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。
《生成式AI卓越架构设计指导原则》：从"能用AI"到"用好AI"
在2025云栖大会上，阿里云发布《生成式AI卓越架构设计指导原则》，以云原生“卓越架构五大支柱”为基础，针对大模型内容合规与安全治理等领域提建议，助力企业从‘能用AI’走向‘用好AI’。
1.2K Star！终于有工具开始认真解决 AI Agent 安全问题了！
作者深度使用AI Agent时担忧其安全性，GitHub上斗象科技开源的ClawVault项目，上线不久获1.2K Star。它为AI Agent提供多场景安全隔离方案，有分格管理、可视化监控等实用设计，适配Python3.10+环境，安装方便。
开源AI黑客Agent，自动检查代码漏洞并修复，离AI编程的全流程自动化不远了。
开源的AI Agent能自动查代码漏洞并修复，是集自动化渗透等功能于一体的安全测试平台。Strix作为开源AI安全测试工具，无需手动渗透测试，支持多类型安全评估，功能强大。
龙虾安全被3层硬核架构焊死了！一份面向开发者的硬核生存指南
随着OpenClaw等高权限智能体应用爆发，AI自主性与失控的赛博博弈开启。文章从源头对齐、边界重构、结果保障三个维度，拆解适应智能体自主行动时代的新型安全框架，为开发者提供生存指南。