搜索：人工智能安全治理

「人工智能安全治理」共找到 1490 篇相关文章

如何破解海量内容审核难题？快手安全大模型技术探索与应用实践

在数字内容爆炸式增长下，传统内容审核模式难应对挑战。快手安全算法中心负责人刘梦怡分享自研多模态大模型技术方案与应用实践，涵盖架构、数据、训练等，还介绍审核智能化应用及未来展望。

作者分享 Routa 项目用 AI 驱动开发的经验，指出 100% AI 编码项目真正难的是治理。介绍多个工具参与情况，阐述项目长出反馈系统的过程，包括规则入口、上下文收敛、提交前约束及仓库级裁决等。

近日，独立开发者 gavrielc 制作的开源 AI 助手 NanoClaw 火了。它核心代码仅约 500 行，实现 OpenClaw 同等核心功能。相比原版 Clawdbot 代码量大减，还解决了 OpenClaw 安全架构问题，是其安全替代方案。

随着基于LLM的多智能体系统崛起，其安全隐患凸显。中国科学技术大学等机构提出G - Safeguard安全防护框架，它基于图神经网络，通过构建多智能体话语图等方式，能有效抑制恶意信息传播，有强大防御和泛化能力。

GitHub宣布MCP Server全面支持机密扫描功能，将其扩展至AI辅助和代理驱动的开发工作流，可让外部工具和AI工作流访问安全洞察、自动化修复。这反映安全工具正从被动检测转向自动化治理。

2025年中国科学院院士增选结果公布，计算机领域的清华大学刘云浩教授、人工智能领域的南京大学周志华教授当选。文中介绍了两人履历、科研成果，也展现我国AI研究飞跃突破。

国务院发布意见深入实施“人工智能+”行动，推动其与各行业领域融合。提出到2027年、2030年和2035年的目标，部署重点行动，强化基础支撑能力，明确组织实施要求。

作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。

2025云栖大会上，阿里巴巴集团CEO吴泳铭认为实现AGI是确定事件，终极目标是超级人工智能ASI。他介绍了通往ASI的三阶段，还判断大模型是下一代操作系统，超级AI云是下一代计算机。阿里云也升级全栈AI体系，通义大模型7连发。

谷歌云推出 Model Armor 公开预览版，这是集成到 Apigee API 管理平台的 LLM 治理框架。它能执行特定策略，检测多种风险，支持多 LLM 提供商，还与 GKE 和 Security Command Center 集成。