「大模型安全评测」共找到 8503 篇相关文章
AI圈最准的消息，都藏在这个小小的Web3网站里。
文章介绍了Web3平台Polymarket，它能提前预测AI模型发布日期等事件，准确率颇高。其玩法基于群体智慧，参与者用钱下注表达观点，价格反映事件发生概率，比KOL分析更靠谱。
AI武装的黑产背后，这群人正在打一场看不见的战争。
文章揭示AI在黑产中的应用，如换脸、薅羊毛、钓鱼等，还介绍网商银行安全团队以攻为守的防御策略，像用AI生成验证码、检测行为特征，目标是抬高黑产作恶成本。
AI版盗梦空间？Claude竟能察觉到自己被注入概念了
Anthropic最新研究发现LLM有内省迹象，Claude能察觉概念注入。研究用概念注入测试，虽模型内省能力有限且不可靠，但能力强的Claude Opus 4和4.1表现好，未来内省或更复杂。
史上最大升级！7亿周活ChatGPT逼宫，谷歌慌了，这次要把AI整个塞进Chrome
Chrome迎来史上最大AI升级，谷歌将大模型Gemini全面接入，从内置AI助手到安全防护等多方面改写使用范式。谷歌急于部署，因ChatGPT周活达7亿，AI重塑上网体验，谷歌有危机感。
人人都能炼专属Agent，上海交大开源端侧Agent全栈工具链，真实场景性能超GPT-5！
上海交大开源端侧Agent全栈工具链MobiAgent，将构建手机Agent全流程开放。它在真实场景性能超GPT - 5，还设计“潜记忆加速器”，通过三步养成Agent，评测表现出色，降低移动智能体开发门槛。
突发！Anthropic禁止中国控股公司使用Claude等，无论公司在哪都不行
9月5日，Claude开发商Anthropic发布公告，停止向多数股权由中国资本持有的集团或子公司提供Claude服务，无论运营地点在哪。此举涉及法律、监管和安全风险，也适用于俄、伊、朝等国实体。
避免Claude Code 降智的一小招
Claude Code近期表现变差，简单代码逻辑会搞混，调试建议也不对。作者分享小妙招，切回Opus 4.0能让其恢复智商，还介绍三种切换模型方式，并分析了其降智原因。
ICML 2025 Oral！北大和腾讯优图破解AI生成图像检测泛化难题：正交子空间分解
OpenAI推出GPT - 4o图像生成功能，AI生图安全挑战凸显，区分生成与真实图像成难题。北大与腾讯优图研究人员用正交子空间分解解决AI生图检测泛化难题，论文被ICML 2025接收。
故事式
作者李继刚在好友丁锐启发下尝试「故事式」Prompt，即塑造含「欲望」与「阻力」的动力场让模型生成回复，还给出如「字典疯子」「探索者」等多个故事式Prompt示例供读者体验。
字节开源DreamO，一个框架包揽多种图像定制需求
近期图像定制研究展示大规模生成模型潜力，但多数方法通用性有限。字节提出DreamO框架，支持多种图像定制任务，有特征路由约束机制，能解决特征冲突，还介绍其技术原理与各任务效果。