搜索：人工智能安全治理

「人工智能安全治理」共找到 1493 篇相关文章

OpenClaw的风，已经吹进了奶茶圈

OpenClaw的风已吹进奶茶圈和百货零售行业，古茗和银泰百货测试使用它提效显著，但也遭遇安全风险。直播中专家拆解风险并给出安全落地方案，强调Agent时代安全是企业入场券。

该论文首次系统性研究注意力头在LLM安全中的作用，提出Ships和Sahara方法，在极少参数改动下显著降低模型安全性，发现不同模型安全头高度重叠，为理解模型安全机制提供新视角。

本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。

近日，阿里巴巴集团安全部 - 交互内容安全团队与清华大学联合研究成果被 ICML 2025 收录。他们提出 D - MoLE 框架应对多模态大模型持续学习挑战，实验显示其性能优、训练快，还能用于提升阿里安全审核模型适应力。

本文以悟空Agent获NVIDIA致谢为切入点，介绍多智能体架构闭环及实战挑战，如上下文断流、调度失衡。还阐述架构设计、迭代优化、数据飞轮体系，指出AI infra存在安全隐患，强调安全融入业务的重要性。

本文指出在生成式AI时代，软件开发生命周期瓶颈转变为组织将创意转化为成果并保持架构凝聚力的能力。传统人工监督模式难应对，提出声明式架构策略，介绍其在事件模型、OpenAPI验证器等方面应用。

文章指出速度不是软件交付目标，提升效率是为获反馈。片面追求速度不可取，如微软 Word 因功能堆砌失市场。引入人工智能只为提速不可信，应重视反馈，优化交付流程，借助 AI 打造更有格局产品。

吴恩达团队综合整理AI工程技能地图，助开发者确定学习方向和雇主招聘。四项重要技能为构建和部署AI应用、软件工程基础、使用编程智能体、塑造构建，背后需持续学习心态。

为保障智能体安全，开发了SKILL，覆盖安装前到运行中的全生命周期。安装前进行九类风险检查，运行时有guard机制，从六个方面看风险，设四层风险分级和输入信任等级，目标是让智能体更可控。

杭州正崛起为人工智能创新中心。‘六小龙’等AI公司提升其科技地位，如BrainCo研发脑机接口产品，DeepSeek专注开源权重模型。杭州凭政策、人才、算力等优势后来居上。