「智能体安全」共找到 4146 篇相关文章
一个指令误导智能模型！北航等首创3D语义攻击框架，成功率暴涨119%
北京航空航天大学与中关村实验室团队提出全新框架InSUR，入选NeurIPS 2025。该框架可基于指令生成对抗样本，首次实现3D SemanticAE生成，从采样、建模、评估三方面突破，实验验证其有效性与可扩展性。
破解空间智能数据稀缺难题，影石开源DiT架构全景生成模型，在线可玩
影石研究院团队推出基于DiT架构的全景图像生成模型DiT360，设计分层混合训练框架，结合透视与全景图像数据，提升真实感和几何一致性。它支持多任务，优于现有方法，为三维场景生成提供新思路。
RLHF与RLVR全都要，陈丹琦团队最新力作将推理能力拓展到通用智能
普林斯顿大学陈丹琦团队发布学术成果，提出基于模型奖励思维的强化学习（RLMT）方法，弥合专门推理与通用对话能力差距，将链式思维优势扩展到更广泛范围，提升整体对话表现。
CrowdStrike联手Meta发布AI安全基准，让AI在真实网络攻击中证明自己
美国网络安全巨头CrowdStrike与Meta在Fal.Con 2025大会联合推出开源基准测试套件CyberSOCEval，旨在评估AI大语言模型在真实SOC环境下的网络安全能力，它源于Meta之前框架，开源供全球开发者使用。
空间智能卡脖子难题被杭州攻克！难倒GPT-5后，六小龙企业出手了
杭州群核科技发布空间大模型，深耕室内场景，直指‘空间一致性’痛点。其开源子模型具真实感全息漫游、可交互等特点。当前空间模型处早期，群核提出‘三位一体’战略，还将开源促行业发展。
《“人工智能+”行动意见》深度解读：从人口红利到智能红利，中国经济社会变革新引擎
《“人工智能+”行动意见》是全面重塑中国经济、社会与治理体系的国家战略。它以应用促创新，定位AI为新质生产力关键引擎，涉及多领域变革，还采取不对称竞争策略，应对国际博弈。
视频「缺陷」变安全优势：蚂蚁数科新突破，主动式视频验证系统RollingEvidence
蚂蚁数科AIoT团队论文提出主动式可信视频取证系统RollingEvidence，利用相机卷帘门效应嵌入物理水印，结合AI与概率模型验证，抵御伪造篡改，在检测准确率和防护能力上优于传统技术。
对谈 Memories AI 创始人 Shawn: 给 AI 做一套“视觉海马体”｜Best Minds
本文是对 Memories AI 创始人 Shawn 的访谈。他指出当下 AI 记忆多为“上下文工程”，其团队致力于打造视觉记忆层 LVMM。还探讨了视觉与文本记忆区别、LVMM 架构及应用场景等，认为视觉记忆将成下一代 AI 核心。
音频大模型安全可信度的全面“体检”！6大维度，清华南洋理工联手打造
南洋理工和清华团队提出新框架AudioTrust，将ALLMs评估扩至六个核心维度，探究音频模态特有问题。目前基准及平台已开发，揭示了开源与闭源ALLMs在多维度的潜在风险。
机器人从炫技 Demo 走向上岗，两篇 ICML 顶会论文拆解背后的智能底座
在WRC世界机器人大会上，云蝶科技发布RoboForge系统级具身大脑和WING任务型本体。其科研团队两项成果POLIA与Strat-Reasoner发表于ICML 2026，从视觉证据和他者意图两方面，为理解具身大脑技术提供切口。