「安全防御」共找到 913 篇相关文章
AI系统10分钟生成CVE漏洞利用程序：网络安全攻防战进入“分钟时代”
研究人员开发的AI系统能10 - 15分钟生成CVE漏洞利用程序，成本约1美元，准确性和可靠性高。此外，HPTSA系统可利用零日漏洞。传统网络安全防御模式失效，攻防失衡加剧，AI攻防对抗趋势明显，有专业化、自主化、高强度特点。
如何破解内容安全“不可能三角”？快手王东旭：把组织从“固态”变成“液态”
快手内容安全团队负责人王东旭在AICon大会拆解“人机协同”破解内容安全“不可能三角”。他提出组织从“固态”转向“液态”，构建“AI合成旅”，还阐述产运研等岗位职能跃迁及协同模式升级，强调速度是护城河。
如何破解海量内容审核难题？快手安全大模型技术探索与应用实践
在数字内容爆炸式增长下，传统内容审核模式难应对挑战。快手安全算法中心负责人刘梦怡分享自研多模态大模型技术方案与应用实践，涵盖架构、数据、训练等，还介绍审核智能化应用及未来展望。
AIGC全生命周期业务风控白皮书，从备案到运营的合规与安全实践
2025年9月15日《人工智能安全治理框架》2.0版发布，为AI风险防控指明方向。数美科技发布《AIGC全生命周期业务风控白皮书》，构建全生命周期业务风控体系，涵盖合规备案、安全评测、账号与内容风控等多方面。
ICCV 25 Highlight | 扩散过程「早预警」实现6x加速，AIGC生图的高效后门防御
随着AIGC图像生成技术流行，后门攻击威胁开源社区，传统防御技术难适配。本文作者来自多所高校，提出输入级防御框架NaviT2I，基于神经元激活差异检测样本，加速检测，性能优。
天使轮数千万元融资，这家公司想成为 AI 时代用户的安全执行顾问
主打认知安全的缔零科技获数千万元天使轮融资，资金用于「缔零法则」技术迭代等。其产品以AI治理AI，降本增效。公司曾推「缔零智数」，现「缔零法则」把控模型推理。未来有ToC计划，想成用户安全助手。
代码暴减99.9%！独立开发者仅用500行代码做出安全版OpenClaw，GitHub星数狂飙
近日，独立开发者 gavrielc 制作的开源 AI 助手 NanoClaw 火了。它核心代码仅约 500 行，实现 OpenClaw 同等核心功能。相比原版 Clawdbot 代码量大减，还解决了 OpenClaw 安全架构问题，是其安全替代方案。
“掩码即武器”，四款扩散LLM全部破防 ？ 上交&上海AI Lab发现dllm致命安全缺陷
上海交通大学、上海人工智能实验室等团队研究指出，扩散语言模型（dLLMs）有根本性架构安全缺陷。他们提出DIJA攻击框架，能让多个dLLMs大概率生成有害内容，还呼吁从多方面加强dLLM安全。
谷歌DeepMind：AGI不必是巨型模型，拼凑型AI群或率先涌现，管理大规模Agent迫在眉睫
DeepMind最新研究提出，AGI未必以单一巨型模型形式出现，可能由多个次级AGI智能体协作拼凑涌现。为此，团队提出分布式AGI安全框架，包含四层深度防御模型应对新安全挑战。
什么是系统提示词？如何逆向提示词？
大语言模型启动时会接收系统提示词，决定其角色、回答风格与安全边界。提示词逆向是试图获取或绕过该提示的行为。本文介绍其作用、逆向手法及开发者防御措施，助于安全使用和设计大模型。