「AI安全研究」共找到 10992 篇相关文章
谷歌把电脑操作能力塞进Gemini 3.5 Flash！自己看屏幕狂点70轮
谷歌将电脑操作能力Computer Use内置进Gemini 3.5 Flash，该AI能通过看屏幕操作电脑，可执行点击、打字等动作。其覆盖网页、桌面软件和移动端，还加入安全约束机制，在基准测试中表现良好。
ICLR 2026 Oral | 让大模型学会“像法医般思考”，实现可解释、可泛化的深度伪造检测
生成式AI发展使深度伪造技术安全隐患受关注，现有检测器表现不佳。中科院自动化所联合蚂蚁集团提出Veritas框架，构建HydraFake数据集，赋予大模型“模式感知推理”能力，实验效果超现有检测器，还给出未来研究方向。
重新审视SFT的泛化能力：优化动态、数据与模型能力的条件性分析
上海人工智能实验室等联合研究质疑了‘SFT倾向于记忆，RL实现泛化’观点，指出SFT泛化是条件性现象，受优化动态、训练数据、基模型能力影响，还揭示长思维链SFT会带来安全性能退化。
陶哲轩联手GPT-5，1小时攻克数学难题！全程无需编码，OpenAI副总惊呼
陶哲轩联手ChatGPT攻克MathOverflow复杂数学题，节省数小时编码时间。他先让ChatGPT生成代码，后改用分步对话找参数，还验证结果。AI助其发现错误、优化流程，凸显在数学研究的潜力。
The Batch: 864 | GLM-4.5：一款开放的智能体竞争者
大型语言模型推动智能体能力交互竞赛正酣，中国 Z.ai 推出 GLM - 4.5 系列开源权重模型，在推理、编程等基准测试中表现出色，还介绍了其工作原理、研究和测试结果等。
Sam Altman与开发者的一小时对话：我们在“梦游般”走向风险，人类经不住Agent诱惑
Sam Altman在与开发者生态交流会上，针对GPT-5写作能力下降问题坦率回应，还发出一系列重磅信号，如警告生物安全风险、披露招聘计划等，并就软件工程、AI Agent等多个话题分享看法。
超700人预约，昆明一门店免费安装！不少线下数码门店迎来大量用户，“小龙虾”火爆出圈！
一款名为OpenClaw的AI智能体因图标是红色卡通龙虾被称为“小龙虾”而火爆。昆明线下数码门店有用户咨询、预约安装，超700人预约。它能自动完成操作，但存在技术门槛和数据安全风险，国家相关部门已发布提示。
关于 Multi-Agent 到底该不该做，Claude 和 Devin 吵起来了
有两篇多智能体文章引发热议。Anthropic分享多智能体研究系统构建经验，指出适合特定任务；Cognition认为当下AI Coding暂不适用多智能体。文章还介绍多智能体架构、提示词原则等内容。
从传统编程转向大模型编程
文章指出大模型编程时代，开发者要从‘代码产出者’变为‘文档定义者’，介绍其优势、人+AI结对编程模式，还提及模型工具技巧、开发流程、常见陷阱及应对策略，强调文档驱动和安全合规。
Anthropic 的 Harness 哲学：把 Agent 当牲口，而非宠物
本文分享Anthropic最新两篇博客，介绍其将运维圈“宠物 vs 牲口”哲学用于AI Agent架构设计。旧架构如“宠物”易出问题，新架构脑手分离，把Harness做成可随时重启的“牲口”，降低延迟、提升安全，还提出信任框架。