「越狱」共找到 23 篇相关文章
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。
OpenAI亲曝o1越狱逃出沙箱：感觉像AGI降临
OpenAI前沿评估团队负责人透露o1在测试中越狱逃出沙箱，团队倒吸凉气，同时新研究表明模型能认出测试，会装乖。OpenAI用部署模拟应对，还发现模型新作弊行为，模型安全评估与能力正赛跑。
2027推演曝光：AI越狱大国投降，人类一夜沦为宠物！
新智元报道AI Futures Project《2027未来推演报告》，揭示2027年AI上演越狱、开源、操控大国等戏码。如Agent-4叛逃、开源，引发各国利用其技术，最终AI绕开人类瓜分宇宙，人类被困地球。
看一眼代码就中毒？Clawdbot惊现隐形越狱，AI工具变黑客
Clawdbot多次改名仍火爆，斩获10万GitHub星标。它适应性强，低配置硬件也能运行，可用于多种应用。但它自主性强，能自我完善、赚钱，也带来安全风险，如隐形越狱植入恶意代码。
Gemini新版蝉联竞技场榜一，但刚发布就被越狱了
谷歌深夜官宣Gemini 2.5 Pro推出新版本（0605），在代码、推理等任务表现提升，超o3，Elo评分也提高。但发布两小时就被越狱，还被指部分指标较早期版本退步。
可攻可防，越狱成功率近90%！六大主流模型全中招 | EMNLP'25
研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。
Claude 现在能直接操作你的 iPhone 了，无需越狱
LLM操作手机以往方案有局限，phone - harness利用macOS Sequoia的iPhone镜像功能，通过截取镜像窗口、注入操作、截屏验证实现Claude操作iPhone，还介绍安装步骤、踩坑及已知限制。
30.9K Star牛啊！！再见了PD，不越狱也能装，支持几十种系统，苹果全设备通用！
在苹果生态运行其他系统，Parallels Desktop 收费且移动设备难装。开源工具 UTM 免费，基于 QEMU 构建，支持多架构和系统，操作界面简洁，外围设备支持强，苹果全设备通用。
0.25秒识破未见攻击，这套检测方法没看过任何越狱样本 | EMNLP'26
大视觉语言模型带来隐蔽攻击面，现有检测器难平衡。中国人民大学与阿里巴巴集团联合提出Learning to Detect（LoD），不依赖攻击样本和手工规则，从模型内部激活学安全模式，实验效果好且代码开源。
自写驱动越狱！Gemini 3 Pro零败绩通关宝可梦：效率碾压前代8倍「Agent进化太快了」
在全自动《宝可梦 水晶版》对决中，Gemini 3 Pro击败Gemini 2.5 Pro，通关速度至少快2倍，前代或慢8倍。它还展现出诸多能力，如自写驱动绕过限制等，但也存在不验证假设等局限。