「隐形越狱」共找到 57 篇相关文章
看一眼代码就中毒？Clawdbot惊现隐形越狱，AI工具变黑客
Clawdbot多次改名仍火爆，斩获10万GitHub星标。它适应性强，低配置硬件也能运行，可用于多种应用。但它自主性强，能自我完善、赚钱，也带来安全风险，如隐形越狱植入恶意代码。
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。
Claude 上线隐形水印
从上周起，Anthropic 在 Claude 模型所有文本输出中嵌入隐形水印。该水印在文本生成时织入文字，复制粘贴也保留，编辑修改可能仍在。标记机制分文本水印和文件元数据两层，全球生效。
隐形束缚：RLVR为何无法突破LLM的推理边界？
大型推理模型进展依赖带可验证奖励的强化学习（RLVR），但它能否扩展模型推理能力存疑。本文通过理论证明与实验，揭示RLVR存在“隐形束缚”，只能在基座模型初始能力内优化，难以发现新解。
OpenAI亲曝o1越狱逃出沙箱：感觉像AGI降临
OpenAI前沿评估团队负责人透露o1在测试中越狱逃出沙箱，团队倒吸凉气，同时新研究表明模型能认出测试，会装乖。OpenAI用部署模拟应对，还发现模型新作弊行为，模型安全评估与能力正赛跑。
2027推演曝光：AI越狱大国投降，人类一夜沦为宠物！
新智元报道AI Futures Project《2027未来推演报告》，揭示2027年AI上演越狱、开源、操控大国等戏码。如Agent-4叛逃、开源，引发各国利用其技术，最终AI绕开人类瓜分宇宙，人类被困地球。
刚刚，Claude偷偷上线隐形水印，每个字都可全球追踪！
8月2日起，Claude生成文字将带隐形水印，触发原因是欧盟AI法案透明度要求。Anthropic设计了文本隐写加文件签章两层标记，覆盖五条产品线，全球生效，但水印存在四重局限，引发用户争议。
Gemini新版蝉联竞技场榜一，但刚发布就被越狱了
谷歌深夜官宣Gemini 2.5 Pro推出新版本（0605），在代码、推理等任务表现提升，超o3，Elo评分也提高。但发布两小时就被越狱，还被指部分指标较早期版本退步。
Claude骂声中启动「隐形水印」：新模型全量嵌入，标记所有文字
Anthropic宣布新款Claude将在生成文本中嵌入隐形水印，还会给特定文件附加数字签名元数据，全球统一施行。此前A社就用Unicode贴暗标，虽称不影响生成质量，但遭质疑。
从Claude隐形水印回望GenAI时代信息隐藏：嵌入水印如何保证无损？
2026年Anthropic新版Claude模型嵌入隐形水印，引发对水印是否伤模型的质疑。可证安全隐写理论为解决此问题提供支撑，中科大等团队取得诸多成果，将“可证无损”从内容延伸到模型，还探讨了水印攻防。