「AI安全研究」共找到 10992 篇相关文章
从Claude隐形水印回望GenAI时代信息隐藏：嵌入水印如何保证无损？
2026年Anthropic新版Claude模型嵌入隐形水印，引发对水印是否伤模型的质疑。可证安全隐写理论为解决此问题提供支撑，中科大等团队取得诸多成果，将“可证无损”从内容延伸到模型，还探讨了水印攻防。
刚刚，Anthropic新作：大模型意识被发现了
Anthropic 最新研究发现 LLM 有可被语言化报告的全局工作空间（J - space），用 Jacobian Lens 技术能读出模型思考概念、干预推理，还可暴露其未说出口的意图，为 AI 安全审计提供新途径。
构建分层的 Agentic RAG 系统：具备自主纠错的多模态推理
企业 AI 团队面临 RAG 系统在处理结构化与非结构化数据时的难题。本文探讨用分层多智能体编排解决“模态鸿沟”，介绍 Protocol - H 架构，阐述组件、机制、实现与集成，经基准测试验证其优势，还提及未来研究方向。
深圳散文短片试映会·永不停歇的流光
深圳将举办散文短片《永不停歇的流光》试映会，放映瑞士艺术家Alan Bogana作品。短片综合运用AI等技术，取景多地，探讨光对人体影响。放映后策划人顾灵将与艺术家连线对谈创作过程。
像开发软件一样造世界，Agent2World来了，把世界模型做成可运行的符号环境
为让模型真正“能行动”，需可执行、可验证的符号世界模型，但现有自动生成路线有困局。研究团队提出 Agent2World，经实验验证有显著效果，能稳定产出高质量符号世界模型，开辟 AI 理解现实环境新可能。
10w人看过的龙虾量化系统，评论区骂最多的问题，我花2天补上了。
上一篇龙虾量化系统文章获10w+，评论指出数据是短板。作者经研究找到QVeris，它是统一数据接口平台，使用简单。作者以金融领域为例介绍其用法，还测试其在其他领域的能力，认为它是AI时代的数据基础设施。
让大模型上车：理想汽车硬件协同设计算出最佳边缘模型
长三角洲AI实验室、中科院、理想汽车等找到大语言模型硬件协同设计寻优之路，在相同延迟下降低端侧模型困惑度，压缩模型架构挑选时间。研究揭示缩放定律，打造硬件感知建模框架，找到精度与延迟最优解。
Agent开始“自我进化”：会出题、会反思，还会自己长出新技能
文章围绕自进化Agent展开，介绍其概念、受重视原因及三大技术路线，涵盖各路线代表工作的特点、评估及对比，指出研究空白如总结者训练等，最后还介绍了基于Agentic AI的全链路数据助手Dola。
微信、清华连续自回归模型CALM，新范式实现从「离散词元」到「连续向量」转变
腾讯微信 AI 联合清华提出连续自回归语言模型 CALM，它将语言建模为连续向量而非离散词元，显著改善性能与计算成本权衡，解决了 LLM 效率瓶颈，虽面临技术挑战但实验效果佳，还指明未来研究方向。
ICML 2026前瞻：投稿翻倍背后，机器学习正在换挡
第43届国际机器学习大会（ICML 2026）7月6 - 11日将在韩国首尔举行，主题为‘Machine Learning for the Real World’。今年投稿量翻倍，接收率26.6%，还做了两项制度调整。论文反映出LLM推理、AI安全、模型压缩等趋势，中国研究者表现亮眼。