「安全分类器」共找到 1229 篇相关文章
0.25秒识破未见攻击，这套检测方法没看过任何越狱样本 | EMNLP'26
大视觉语言模型带来隐蔽攻击面，现有检测器难平衡。中国人民大学与阿里巴巴集团联合提出Learning to Detect（LoD），不依赖攻击样本和手工规则，从模型内部激活学安全模式，实验效果好且代码开源。
真钱买假模型？187篇论文被「套壳API」坑惨，准确率暴跌
CISPA论文指出，第三方影子API可能用廉价替代品替换前沿大模型。研究追踪17个服务，发现已被187篇论文引用。测试显示，影子API在多领域性能差，安全不可控，供应商有三种欺骗手段。
被Anthropic强制改名！Clawdbot 创始人一人开发、100% AI 写代码，腾讯又跟上了热度
个人AI助手ClawdBot席卷硅谷，后被Anthropic强制改名Moltbot。它由Peter Steinberger一人开发，近乎100%用AI写代码。该项目已开源，有诸多亮点，但也存在安全隐患，网友使用场景多样。
OpenAI 离职员工爆料公司压力巨大发展速度惊人
前OpenAI员工Calvin回顾工作经历，称其发展极快、压力大。公司依赖Slack沟通，自下而上创新，重能力而非政治。还提到技术栈、安全关注重点等，认为OpenAI、Anthropic和Google是AGI赛道主力。
AI武装的黑产背后，这群人正在打一场看不见的战争。
文章揭示AI在黑产中的应用，如换脸、薅羊毛、钓鱼等，还介绍网商银行安全团队以攻为守的防御策略，像用AI生成验证码、检测行为特征，目标是抬高黑产作恶成本。
阿里新研究：统一了VLA和世界模型
阿里达摩院等提出WorldVLA框架，融合视觉语言动作模型与世界模型。它用三套分词器编码，解决传统自回归模型问题，经联合训练，实验显示其性能优，两模型还能相互助力。
突发！Anthropic禁止中国控股公司使用Claude等，无论公司在哪都不行
9月5日，Claude开发商Anthropic发布公告，停止向多数股权由中国资本持有的集团或子公司提供Claude服务，无论运营地点在哪。此举涉及法律、监管和安全风险，也适用于俄、伊、朝等国实体。
vLLM 技巧： 在几秒钟内无需重启释放90%的 GPU 显存
EmbeddedLLM介绍vLLM新功能“休眠模式”，可在不重启服务时几秒内释放约90% GPU显存，实现模型热插拔与高效轮转，还介绍使用方法、不同休眠级别，提醒生产环境要确保安全。
ICML 2025 Oral！北大和腾讯优图破解AI生成图像检测泛化难题：正交子空间分解
OpenAI推出GPT - 4o图像生成功能，AI生图安全挑战凸显，区分生成与真实图像成难题。北大与腾讯优图研究人员用正交子空间分解解决AI生图检测泛化难题，论文被ICML 2025接收。
人多不管用！智能体团队别盲目扩张，最新综述给出三大维度
随着大语言模型驱动的多智能体系统快速发展，核心问题是有些系统规模扩大后会失稳、低效。美国、英国和澳大利亚研究人员提出三维分类框架描述大规模智能体网络，指出真正决定系统表现的是三种机制组合。