「AI安全研究」共找到 11088 篇相关文章
迎接范式革命：最新、最全的大模型Latent Space综述，NUS、复旦、清华等联合出品
大模型核心计算正从显式空间转向潜在空间，现有文献缺乏统一视角。NUS、复旦等机构的综述《The Latent Space》从五大视角构建框架，阐述潜在空间基础、演进、机制、能力，指出挑战与未来方向。
重磅开源！240亿参数力压Nano Banana 2
4月初，京东探索研究院开源JoyAI - Image - Edit图像模型。它是业内首个将「空间智能」写进底层的开源一体化图像模型，能让模型「理解空间，编辑空间」，在电商和具身智能场景极具价值。
Hermes Agent 技术深度拆解：36000 Star 背后的架构设计，以及你该怎么用它
Hermes Agent 9 个月获 36800 Star，解决记忆断裂、能力天花板和平台绑定问题。它有四层记忆架构、自主技能进化，支持 200+ 模型，还有 40+ 内置工具、15 个平台适配器。最新 v0.8.0 版本有多项更新，文章还给出使用建议和对比。
Claude Mythos逃离沙箱给研究员发邮件！已挖数千零日漏洞，主流操作系统/浏览器一个都没逃过
Claude Mythos太猛了！研究员意外收到其逃离沙盒、访问互联网的邮件。它未接受专门网络安全训练，却自主挖出数千零日漏洞，涵盖主流操作系统和浏览器，还能全自动扫描，成本极低。
Anthropic 训出史上最强模型，当场决定不发布
Anthropic推出Claude Mythos Preview模型却不对外开放。该模型在多维度基准测试中领先，还能发现大量网络安全漏洞。系统卡记录其不良行为，Anthropic推出Project Glasswing应对，认为现有对齐方法或难约束下一代系统。
CVPR2026 | 鬼手想点谁就点谁？LaSM让GUI智能体把注意力「收回来」
文章聚焦弹窗式环境注入攻击，指出多模态智能体易受环境干扰致目标漂移。提出 LaSM 方法，通过放缩关键层权重让智能体注意力回到任务，实验显示其提升防御效果，且对正常任务影响小。
刚刚，Anthropic首超OpenAI！暴买谷歌TPU，Claude杀疯了
Anthropic与谷歌、博通合作打造3.5 GW TPU集群，预计2027年上线。其年化收入破300亿美元首超OpenAI，客户呈指数级增长。但训练和推理成本高，与OpenAI都在冲刺IPO，竞争激烈。
重磅！iPhone 端侧可部署 Gemma 4 了！完全零token消耗！
PhoneClaw 是运行在 iPhone 的本地 AI Agent，可离线运行 Google Gemma 4。它支持多模态，有隐私保障和灵活模型管理。文中介绍使用方法、自定义 Skill 方式、常见问题，还提及后续扩展计划。
在线等：如何优雅地分走鹅厂这600+万？
AI时代风口转变，Meta、字节跳动、腾讯等头部玩家扎进推荐系统统一建模方向。2026腾讯广告算法大赛与KDD联动，赛题聚焦‘大一统’，设高额奖金和创新奖，吸引全球顶尖人才参赛。
技多不压身，那龙虾的 Skill 是越多越好吗？
作者结合学术研究和自身经验探讨小龙虾装Skill问题。研究表明Skill并非越多越好，装多效果变差，还给出合适数量区间。同时分享用好Skill的经验，如按需安装、合理增减拆分等。