「AI安全审计」共找到 10181 篇相关文章
250份文档就能给大模型植入后门：不分参数规模
Claude母公司Anthropic联合英国AISI和图灵研究所研究发现，仅250份恶意文档就能给不同规模大模型植入“后门”漏洞，打破了以往对大模型数据中毒的认知，给厂商提了个醒。
Anthropic 深夜祭出 Claude Sonnet 4.5，能自主工作 30 小时！CEO：它更像你的同事
昨夜凌晨，Anthropic 推出新一代模型 Claude Sonnet 4.5，官方称其是世界上最好的编码模型等。该模型性能跑分登顶，工程落地能力强，还带来产品生态升级，开放 Agent SDK，误报率降低，价格亲民。
「一页纸」吃透产业链之：人形机器人，Figure链与特斯拉Optimus链
文章聚焦人形机器人，分析其产业处于量产落地拐点，2025 - 2026年是关键期。介绍产业链上中下游情况，指出面临的软硬件挑战，还提及市场规模、主要参与者，重点关注Figure与特斯拉Optimus产业链。
Nano Banana核心团队：图像生成质量几乎到顶了，下一步是让模型读懂用户的intention
这是对Nano Banana核心团队的专访。团队认为图像生成质量提升空间有限，未来关键在模型可表达性和读懂用户意图。还探讨了图像模型发展趋势、应用场景、产品设计、评估方式等，提及与传统工具将长期共存。
别再把ChatGPT当「实习生」了，顶尖高手都在用它做「决策副驾」
OpenAI联合杜克大学、哈佛大学发布63页ChatGPT使用研究报告，分析2022年11月到2025年7月海量匿名真实用户数据。报告揭示不同用户群体使用差异，指明高阶AI使用路径，还给出可落地启发。
Claude正式登陆Xcode
Xcode 26更新对Claude原生支持，将AI编程助手融入代码编辑器。开发者可在Xcode用Claude加速开发，有代码助手和编码工具等功能，订阅机制合理，还给出启用方式。
华为发布如何利用RL训练强大的Deep Research Agent综述！
华为技术团队发布综述论文，首次系统性梳理利用强化学习（RL）训练强大的深度研究代理。论文指出传统SFT和DPO方法有局限，RL优势明显，还在数据构建、算法设计等方面给出进展与路线图。
文心X1.1发布！这三大能力突出，一手实测在此
百度深度思考模型文心X1.1升级上线，在事实性、指令遵循、智能体等能力显著提升，实测表现佳。WAVE SUMMIT 2025大会还发布开源模型ERNIE - 4.5 - 21B - A3B - Thinking等，飞桨框架也升级到v3.2。
刚刚，OpenAI任命新印裔CTO！11亿美金连公司打包收购，接管ChatGPT产品核心
OpenAI斥资11亿美金收购实验平台Statsig，其CEO Vijaye Raji成应用部门新CTO，将负责ChatGPT等产品工程。同时启动「OpenAI for Science」项目，打造AI驱动的科学发现平台。
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。