「AI安全评估」共找到 10287 篇相关文章
CVPR 2026 | 还在为AI「鬼画符」发愁？TextPecker即插即用破解文字渲染难题
在生成式AI浪潮中，视觉文本渲染仍是未攻克的核心难题。华中科技大学白翔教授团队等提出TextPecker，是基于结构感知的即插即用型强化学习优化策略，可适配主流生成器，提升视觉文本渲染性能，已被CVPR 2026接收。
被骂疯了！微软CEO刚甩出年终反思：“今年别说AI垃圾了”，“模型滞后”新定义遭痛批，网友：你是真脱离现实
微软CEO Satya Nadella发布年终反思博文，定位2026年为‘AI关键之年’，提出‘模型滞后’，划定三件关键事，却遭网友痛批。同时微软推进AI融入Windows，引发对其动机和市场前景的质疑。
谷歌AI连发6篇数学论文！Gemini攻入博士级科研，91.9%刷爆SOTA
谷歌DeepMind放出多篇重磅论文，Gemini Deep Think成「科研合伙人」，攻克多领域难题。谷歌打造基于Gemini的「AI数学家」Aletheia，在博士级难题获科研里程碑，首批6篇论文成果斐然。
超硬核，腾讯给力！
文章介绍腾讯朱雀实验室开发的AI安全红队测试平台A.I.G，能对AI系统做全面“安全体检”，覆盖AI基础设施、MCP、LLM等风险。它功能实用，安装简单，适合折腾AI服务或MCP的人。
8.9K Star！号称 Notebook LM 开源平替，支持 16+AI 模型，一键部署！
Google Notebook LM 虽方便，但有数据泄露风险且被平台绑定。开源工具 `open-notebook` 是其平替，支持 16 + 家 AI 模型提供商，可处理多模态内容，能本地部署保障数据安全，还具备多种实用功能。
当AI迈入Harness时代：以MiniMax为样本看智能体云端新基建
2026年初，随OpenClaw爆火，AI步入Harness时代，MiniMax成变革焦点，推出MaxClaw和MaxHermes。但本地单机框架用于企业级生产有鸿沟，MiniMax借助阿里云云原生方案重塑Agent运行底座。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
AI安全上，开源仍胜闭源，Meta、UCB防御LLM提示词注入攻击
Meta和UCB开源安全大语言模型Meta - SecAlign - 70B，其对提示词注入攻击鲁棒性超闭源方案，还具更好的agentic ability。介绍了提示词注入攻击背景、防御方法，该模型打破闭源垄断，开源代码助力安全AI建设。
疯狂小扎边裁员边给高管发钱！元宇宙硬件成重灾区
据纽约时报等报道，Meta近日一边裁700人，涉及多部门，内部还评估更大规模调整；一边为6位核心高管设股权激励，收益与股价挂钩。这源于AI烧钱，Meta要开源节流，优先AI等现实方向。
Jack Clark: 美国 AI 政策的隐形推手，时代的良心还是囚徒？
本文深入剖析Jack Clark，他关注中国AI进展，认可其成就，但对中国态度强硬。身为美国AI政策“民间沙皇”，他为美国遏制中国AI发展设计五层战略，文章探讨其进入AI核心圈原因、政策理念及背后悖论。