「模型安全」共找到 8386 篇相关文章
GPT-5.4 vs Opus 4.6 vs Gemini 3.1：五条结论
2026年3月前沿AI竞争激烈，GPT - 5.4、Opus 4.6、Gemini 3.1 Pro各有千秋。GPT - 5.4领先知识和计算机使用，Gemini 3.1 Pro以低价主导推理，Opus 4.6编程能力强，无单一模型通吃各领域。
ChatGPT开始预测用户年龄，NSFW内容要来了！
OpenAI于1月20日更新推出年龄预测功能，通过分析用户多方面信息判断是否为18岁以下。网友测试发现猜测较准，这或使NSFW内容限制放宽，不同模型版本情况有别，更新还改进语音和记忆功能。
破除水军机器人！北航团队发布全新对抗性框架SIAMD：用“结构信息”破译机器人伪装｜IEEE TPAMI
本文介绍北航彭浩团队发表在TPAMI 2025的文章，提出对抗性框架SIAMD检测机器人。它将用户账户与消息交互组织为异质结构，用结构熵建模。实验显示，其在有效性、泛化性等方面优于基线模型。
谷歌翻译重大更新：实时翻译，全球无障碍交流摩擦苹果
Google搜索产品副总裁宣布Google翻译引入Gemini模型，翻译能力飞跃。更新含顶尖文本翻译、实时语音对话翻译（Beta版）及扩展语言练习功能，适用多平台多语言，谷歌期待用户反馈以优化体验。
OpenAI官宣GPT-6 Astra，AGI时代要来了吗
OpenAI官宣GPT - 6 Astra，自称‘世界上最聪明、对齐最好的模型’，总裁称迎来AGI时代。它成绩亮眼，能直接完成工作，达网络安全阈值，训练让AI深度参与，但价格较贵。
The Batch: 936 ｜Claude Code 内部揭秘
广受欢迎的编码智能体Claude Code近期版本意外暴露底层代码。Anthropic称是人为失误，未泄露用户数据。工程师分析发现其架构似小型专用操作系统，还揭示了潜在功能和未来规划。
OpenAI深夜祭出GPT-5.4，暴击Claude！原生操控电脑，打工人悬了
OpenAI发布GPT - 5.4，全面反击Gemini 3.1 Pro和Claude Opus 4.6。它是首个有「原生电脑使用」能力的通用模型，各维度无短板，成绩炸裂，定价也创新高。
刚刚，OpenClaw登顶GitHub软件星标历史第一！已超越Linux
仅两月，本地AI框架OpenClaw击败Linux，登顶GitHub星标第一。它是开源本地运行的AI Agent框架，能接入通讯工具，虽引发安全危机和限制，却热度不减，反映开源社区趋势变化。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
Gemini 3来了，Software 3.0也快了
作者认为Gemini 3是目前最好的模型，编程时前端用Gemini 3，后端用Codex。无编程需求时，它也能助力信息处理。Google推出Generative UI，二者结合让我们接近Software 3.0。