「AI安全测试」共找到 10867 篇相关文章
被骂疯了！微软CEO刚甩出年终反思：“今年别说AI垃圾了”，“模型滞后”新定义遭痛批，网友：你是真脱离现实
微软CEO Satya Nadella发布年终反思博文，定位2026年为‘AI关键之年’，提出‘模型滞后’，划定三件关键事，却遭网友痛批。同时微软推进AI融入Windows，引发对其动机和市场前景的质疑。
谷歌AI连发6篇数学论文！Gemini攻入博士级科研，91.9%刷爆SOTA
谷歌DeepMind放出多篇重磅论文，Gemini Deep Think成「科研合伙人」，攻克多领域难题。谷歌打造基于Gemini的「AI数学家」Aletheia，在博士级难题获科研里程碑，首批6篇论文成果斐然。
如何为 GPU 提供充足存储：AI 训练中的存储性能与扩展性
文章分析 MLPerf Storage v2.0 测试结果，探讨不同存储系统在 AI 训练中表现。在满足 GPU 利用率阈值下，能支撑更多 GPU 的存储系统扩展性与稳定性更强，还需关注资源利用率。以太网存储方案灵活且成本效益高。
8.9K Star！号称 Notebook LM 开源平替，支持 16+AI 模型，一键部署！
Google Notebook LM 虽方便，但有数据泄露风险且被平台绑定。开源工具 `open-notebook` 是其平替，支持 16 + 家 AI 模型提供商，可处理多模态内容，能本地部署保障数据安全，还具备多种实用功能。
当AI迈入Harness时代：以MiniMax为样本看智能体云端新基建
2026年初，随OpenClaw爆火，AI步入Harness时代，MiniMax成变革焦点，推出MaxClaw和MaxHermes。但本地单机框架用于企业级生产有鸿沟，MiniMax借助阿里云云原生方案重塑Agent运行底座。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
AI安全上，开源仍胜闭源，Meta、UCB防御LLM提示词注入攻击
Meta和UCB开源安全大语言模型Meta - SecAlign - 70B，其对提示词注入攻击鲁棒性超闭源方案，还具更好的agentic ability。介绍了提示词注入攻击背景、防御方法，该模型打破闭源垄断，开源代码助力安全AI建设。
成本降九成，准确率100%！MIT反常识架构挑战硅谷信仰
慕尼黑工业大学等研究者指出企业AI落地问题源于数据乱。RUBICON架构用AQL查询语言，把操作权交用户，让LLM在精确范围工作。测试中它准确率100%，成本低，优于现有智能体AI方案。
你的「龙虾」真记得你吗？剑桥发布长期个性化记忆基准ATM-Bench
剑桥大学团队开源面向AI个人助理的长期记忆基准测试ATM - Bench，评估AI面对真实生活数据时能否「记住你」。实验结果不佳，专用和通用智能体系统准确率低，凸显长期个性化记忆问答难题。
Jack Clark: 美国 AI 政策的隐形推手，时代的良心还是囚徒？
本文深入剖析Jack Clark，他关注中国AI进展，认可其成就，但对中国态度强硬。身为美国AI政策“民间沙皇”，他为美国遏制中国AI发展设计五层战略，文章探讨其进入AI核心圈原因、政策理念及背后悖论。