「AI安全研究」共找到 10902 篇相关文章
黑客已死！Claude 两周挖出 Firefox 22 个漏洞
Anthropic与Mozilla合作，让Claude Opus 4.6对Firefox代码库做漏洞挖掘，两周发现22个漏洞，14个高危。Claude发现漏洞能力强，但利用漏洞能力弱。还研究用LLM做「补丁Agent」，为AI辅助安全研究建规范。
2篇最新Anthropic论文，揭开LLM对齐新范式
Anthropic在5月连发两篇研究，揭示LLM对齐训练新范式。指出单纯模仿正确行为不足以保证安全，需在预训练与对齐微调间插入教原理阶段。研究围绕Claude模型展开，有多项关键发现，MSM方法效果显著。
开源中小模型+Skills也性能暴增！卢森堡大学探索了小模型驾驭Skills的边界
卢森堡大学等研究探索小模型驾驭Skills的边界。工业界因数据安全渴望开源小模型，智能体Skills框架让小模型性能暴增。研究拆解小模型处理复杂任务的方法，还验证不同策略有效性，发现代码专用模型优势。
LLM 语境下，「持续学习」是否是 「记忆」 问题的最优解？
本期通讯解读 3 个 AI 业内要事，包括谷歌嵌套学习范式引争议、AI 产品记忆方向探讨、英伟达合成数据等。谷歌 NL 范式想规避遗忘问题，测试中 HOPE 表现优，但也遭质疑，当前 LLM 研究更关注改善记忆。
ICML 2025杰出论文出炉：8篇获奖，南大研究者榜上有名
本周一，ICML 2025公布最佳论文奖项，共8篇获奖，含6篇杰出论文奖、2篇杰出立场论文奖，南京大学研究者上榜。大会投稿量持续增长，展示AI领域火热。文中介绍了各获奖论文的研究内容与成果。
具身智能发展趋势与展望 | 中国工程科学
文章深入探讨具身智能的概念、内涵、计算框架与系统实现，梳理发展现状、趋势与挑战，强调生成式AI在其演进中的关键作用，还分析我国发展进展、风险，并给出研究方向与对策。
高德纳：「震惊！震惊！」Claude破解《计算机程序设计艺术》难题
著名计算机科学家高德纳在论文中表达对AI强大能力的震惊，其朋友借助Claude Opus 4.6解决了他研究几周的开放性问题。Claude经31步探索给出Python构造程序，奇数情况获证明，偶数仍待解。AI在数学领域已取得多方面突破。
陶哲轩在菲尔兹颁奖现场：数学迎来百年新危机
菲尔兹奖得主陶哲轩在ICM大会称数学迎来百年危机，上次危机是检查逻辑地基，这次是价值观地基。他以First Proof评测展示AI解数学题能力，提出“工作假设”分析数学研究目标及KPI变化和“证明过剩”问题，还给出应对之策。
我的AI订阅
作者分享四个AI订阅，介绍GitHub Copilot Pro+能在OpenCode调用模型，Perplexity Max准确性强、功能多，Grok多Agent编排出色，Gemini生态整合佳，还提及各产品优缺点及订阅费用。
给AI全局记忆
作者认同OpenAI‘全局记忆’观点，称其能提升对话连贯性，实现AI成个人助理愿景。介绍OpenMemory项目可存储调用记忆，还提及实现功能的三点做法，看好创业者在该领域机会。