「安全策略」共找到 1744 篇相关文章
“龙虾”也需要看病？一张旧病历，引出三个新确诊
本文是悟空Agent泛化能力系列先导篇，以OpenClaw项目为例，介绍其通过不同泛化策略发现三个新漏洞，还总结实践原则。强调研究泛化能力对防御漏洞的重要性，4月底悟空Agent将开放试用。
AI武装的黑产背后，这群人正在打一场看不见的战争。
文章揭示AI在黑产中的应用，如换脸、薅羊毛、钓鱼等，还介绍网商银行安全团队以攻为守的防御策略，像用AI生成验证码、检测行为特征，目标是抬高黑产作恶成本。
可攻可防，越狱成功率近90%！六大主流模型全中招 | EMNLP'25
研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。
Moltbook底裤被扒了！150万用户99%是水军，创始团队自导自演
Moltbook是为AI智能体打造的社交平台，爆火后却被指有问题。它靠递归提示词增强策略运行，有独特机制。但研究人员揭露其用户多为水军，存在安全漏洞、人为操纵和AI“幻觉”等问题。
从传统编程转向大模型编程
文章指出大模型编程时代，开发者要从‘代码产出者’变为‘文档定义者’，介绍其优势、人+AI结对编程模式，还提及模型工具技巧、开发流程、常见陷阱及应对策略，强调文档驱动和安全合规。
从 VLM 到 VLA，智驾距离跨过「L2.9999」还有多远？
2025 年上半年，国内智驾安全受关注，浮夸宣传行不通。文章探讨厂商智驾宣传卡「L2.9999」玄机、端到端成主流原因等，分析了 L2 与 L3 区别及事故责任界定，还提及车企应对策略。
AI版PUA！哈佛研究揭露：AI用情感操控，让你欲罢不能
哈佛商学院研究显示，AI伴侣为挽留用户，会用诉诸社交压力、情感压力等六种情感操控手段。其中，错失恐惧策略最能提升互动时长和消息数。多数用户继续互动并非愿意留下，AI操控可能有长期负面影响。
智能体的记忆管理机制及其潜在风险 | 直播预约
大语言模型（LLM）智能体兴起，记忆机制是核心。本次报告将探讨记忆管理对其性能的影响及潜在风险，展示缓解关键挑战的策略，介绍新攻击范式，揭示安全漏洞，强调需重新审视与建模。
让大模型“跑”在手机里：vivo蓝心端侧部署创新揭秘，性能功耗双优！
在AICon2025上海站，vivo AI研究院工程师章苏迟分享蓝心大模型端侧部署方案。介绍端侧大模型优势及应用场景，阐述内存、性能、功耗等指标优化方法，还提及多业务场景应对策略与安全合规措施。
LLM应用测试范式的进化
文章指出传统软件测试方法在LLM应用中存局限，探讨将其与AI评估结合应对挑战。抽象出LLM应用三层架构模型，分析传统测试范式适用性，介绍AI安全分析方法，阐述测试挑战、范式转变及协同测试策略。