「人工智能安全治理」共找到 1453 篇相关文章
OpenClaw热潮之后，倒计时最后一天 | 线上预约、线下报名
OpenClaw热潮活动倒计时最后一天，由NICE、上海交大人工智能创新协会主办，2026.4.11 14:00 - 17:00举办。多位嘉宾分享，涉及Agent安全防御、智能体身份与通信、大模型进化及个人智能体发展等内容。
牛芯国产先进工艺 DDR5/LPDDR5 IP双双突破6400Mbps
随着人工智能等领域发展，系统对数据吞吐能力需求攀升。牛芯半导体基于国产先进工艺研发DDR5/LPDDR5 IP，实现6400Mbps高性能验证，通过创新弥补工艺代差，打通国产链路，具成本和安全优势。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
突发！OpenAI深夜推出浏览器ChatGPT Atlas：一文深度详细解析「率先支持mac OS」
OpenAI推出人工智能驱动的浏览器ChatGPT Atlas，集成对话式AI改变上网方式。它有随行聊天、浏览器记忆、代理模式三大核心功能，面向全球macOS用户上线，更高级功能对付费用户开放，还注重安全与用户控制。
《生成式AI卓越架构设计指导原则》：从"能用AI"到"用好AI"
在2025云栖大会上，阿里云发布《生成式AI卓越架构设计指导原则》，以云原生“卓越架构五大支柱”为基础，针对大模型内容合规与安全治理等领域提建议，助力企业从‘能用AI’走向‘用好AI’。
从Claude隐形水印回望GenAI时代信息隐藏：嵌入水印如何保证无损？
2026年Anthropic新版Claude模型嵌入隐形水印，引发对水印是否伤模型的质疑。可证安全隐写理论为解决此问题提供支撑，中科大等团队取得诸多成果，将“可证无损”从内容延伸到模型，还探讨了水印攻防。
Agent产品，快者为王？Anthropic 和 Databrick CEO 对话解读
Anthropic和Databrick以「人工智能的未来：面向各领域的专用Agent」为主题举办线上峰会，两家公司CEO Dario Amodei和Ali Ghodsi对谈，分享Agent未来、相关合作等话题，还探讨数据价值、治理风险及AI应用迭代等问题。
1.2K Star！终于有工具开始认真解决 AI Agent 安全问题了！
作者深度使用AI Agent时担忧其安全性，GitHub上斗象科技开源的ClawVault项目，上线不久获1.2K Star。它为AI Agent提供多场景安全隔离方案，有分格管理、可视化监控等实用设计，适配Python3.10+环境，安装方便。
开源AI黑客Agent，自动检查代码漏洞并修复，离AI编程的全流程自动化不远了。
开源的AI Agent能自动查代码漏洞并修复，是集自动化渗透等功能于一体的安全测试平台。Strix作为开源AI安全测试工具，无需手动渗透测试，支持多类型安全评估，功能强大。
龙虾安全被3层硬核架构焊死了！一份面向开发者的硬核生存指南
随着OpenClaw等高权限智能体应用爆发，AI自主性与失控的赛博博弈开启。文章从源头对齐、边界重构、结果保障三个维度，拆解适应智能体自主行动时代的新型安全框架，为开发者提供生存指南。