搜索：大模型安全评测

「大模型安全评测」共找到 8503 篇相关文章

破除水军机器人！北航团队发布全新对抗性框架SIAMD：用“结构信息”破译机器人伪装｜IEEE TPAMI

本文介绍北航彭浩团队发表在TPAMI 2025的文章，提出对抗性框架SIAMD检测机器人。它将用户账户与消息交互组织为异质结构，用结构熵建模。实验显示，其在有效性、泛化性等方面优于基线模型。

Google搜索产品副总裁宣布Google翻译引入Gemini模型，翻译能力飞跃。更新含顶尖文本翻译、实时语音对话翻译（Beta版）及扩展语言练习功能，适用多平台多语言，谷歌期待用户反馈以优化体验。

本文从工程视角拆解Anthropic新品Claude Opus 5.5，分析其能力升级、定价调整，分享开发者实测案例，解读此次升级对AI行业格局的影响。

OpenAI官宣GPT - 6 Astra，自称‘世界上最聪明、对齐最好的模型’，总裁称迎来AGI时代。它成绩亮眼，能直接完成工作，达网络安全阈值，训练让AI深度参与，但价格较贵。

美国东北大学等机构研究者提出OPeRA数据集，采集真实用户在线购物行为，支持系统评测LLM个体化行为预测能力。实验显示当前主流LLM在模拟人类行为上表现有限，揭示其能力边界。

广受欢迎的编码智能体Claude Code近期版本意外暴露底层代码。Anthropic称是人为失误，未泄露用户数据。工程师分析发现其架构似小型专用操作系统，还揭示了潜在功能和未来规划。

OpenAI发布GPT - 5.4，全面反击Gemini 3.1 Pro和Claude Opus 4.6。它是首个有「原生电脑使用」能力的通用模型，各维度无短板，成绩炸裂，定价也创新高。

仅两月，本地AI框架OpenClaw击败Linux，登顶GitHub星标第一。它是开源本地运行的AI Agent框架，能接入通讯工具，虽引发安全危机和限制，却热度不减，反映开源社区趋势变化。

AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。

作者认为Gemini 3是目前最好的模型，编程时前端用Gemini 3，后端用Codex。无编程需求时，它也能助力信息处理。Google推出Generative UI，二者结合让我们接近Software 3.0。