「攻击方法」共找到 1681 篇相关文章
刚刚，Anthropic推出Claude Chrome插件，仅限1000人
Anthropic发布Claude for Chrome扩展，让Claude能在浏览器操作，仅向1000名Max计划用户开放预览。虽功能强大，但面临提示注入攻击风险。不过Anthropic有多层防护，降低了攻击成功率，并给出用户安全建议。
我是如何破解 NotebookLM 系统提示词的？
作者分享通过“逆向推理”破解NotebookLM系统提示词的故事，介绍系统提示词概念、破解原因、策略及从播客音频逆推提示词的方法，还提到该方法的效果及局限性 。
Talking-Critic奖励模型带来更自然的音频驱动肖像
近期音频驱动肖像动画技术发展快，但现有方法存在嘴型声音不对、动作不自然等问题。阿里提出Talking - Critic奖励模型，构建Talking - NSQ数据集，还提出TLPO优化框架，提升多维度表现，实验超现有SOTA方法。
任意条件，「可控」文生图扩散模型综述 | TPAMI'25
北京邮电大学团队在顶级期刊IEEE TPAMI发布综述，探讨文生图扩散模型可控生成技术，将核心问题概括为如何注入新型条件信号并稳定控制，从任务和方法层面梳理技术，还提及应用场景与未来方向。
“开源已死”？怕被 OpenAI 和 Mythos 把代码挖成筛子，4 万 Star 项目突然闭源！
近日，开源初创公司 Cal 宣布将旗舰开源项目转为闭源，因无力应对 AI 攻击开源代码风险。其联合创始人称，现有开源安全模式难以抵御 AI 攻击。此举引发开发者质疑，也凸显 AI 对开源模式的冲击。
推理效率狂飙60倍：DiDi-Instruct让扩散大模型16步超越千步GPT
普渡大学等研究者提出 DiDi-Instruct 后训练方法，可将扩散大语言模型推理加速 60 倍，超越传统 GPT 模型。该方法实现推理效率与效果双提升，为大语言模型落地提供新方案。
AI竟会「自己认错」？破解多智能体协作「罗生门」，斩获ICML 2025 Spotlight
多智能体AI系统任务失败后，开发者常难定位问题。PSU、杜克大学与谷歌DeepMind等机构提出「自动化失败归因」，发布Who&When数据集，探索三种归因方法，虽目前效果欠佳，但为打造可靠系统提供方向。
NeurIPS 2025 Spotlight | GeoSVR：稀疏体素的新潜力——超越3DGS系列的高精度三维表面重建
计算机视觉中表面重建难题待解，现有方法有瓶颈。北航等团队提出 GeoSVR 框架，围绕几何约束与表面正则化设计，在多数据集超现有方法，兼顾精度、完整性与效率，为多领域提供支持。
腾讯提出Vision-SR1：让模型真正学会“看图思考”，而不是“蒙答案”
视觉语言模型（VLMs）存在视觉幻觉和语言捷径问题，限制其可靠性和泛化能力。腾讯提出Vision - SR1训练方法，通过推理分解和自我奖励机制，不依赖外部监督，提升模型视觉感知和推理可靠性。
ICLR2025 | LLM为什么能拒绝回答有害问题呢？
该论文首次系统性研究注意力头在LLM安全中的作用，提出Ships和Sahara方法，在极少参数改动下显著降低模型安全性，发现不同模型安全头高度重叠，为理解模型安全机制提供新视角。