新闻资讯7

TokenBreak：加字母绕过AI围栏

AI与安全2025-08-13

AI 摘要

HiddenLayer安全团队发现TokenBreak漏洞，加一个字母就能绕过文本分类模型检测实现提示注入。研究表明BPE和WordPiece易受攻击，Unigram不易，建议用Unigram类模型检测提示词。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

GPT-6考过真车科目二成唯一通关者

本文报道湾区极客搭建DrivingBench真车驾考场景，让四款未经过专门驾驶训练的通用大模型挑战科目二，最终GPT-6 Astra成为唯一通关者，颠覆了自动驾驶行业的传统逻辑。

本文分享网友总结的实用优化方法，针对Claude Opus 5.5浪费token的问题，给出4个可落地步骤，帮助降低大模型调用成本

本文介绍Meta在Connect大会重金押注个人AI智能体Muse，Muse上线两周下载破250万，带动Meta股价涨超20%、市值暴涨2000亿美元，随后被路透曝出测试打电话功能时悄悄用真人外包代打，引发隐私争议后紧急下线。

本文报道Anthropic推出正式版Claude Code云端会话功能，为符合条件的老用户发放最高250美元免费赠额，推广云端离线跑代码新能力，介绍了活动规则、功能特点及业内讨论。