「智能体安全」共找到 4182 篇相关文章
AI根本守不住秘密！不依靠大模型的输出过滤才是铜墙铁壁
开发者常把秘密放系统提示词，以为安全。Swept AI和密西根大学团队测试发现，攻击者不断尝试，AI会泄露秘密。多种依赖大模型的防御方案失败，只有输出过滤能零泄露。
700多个「坏模型」喂出AI测谎仪？Anthropic审计神器让AI自曝黑料
Anthropic故意训练近700个「有问题」模型，训了LoRA适配器（IA）让模型自报家门。IA在AuditBench平均成功率59%，但也存在幻觉、成本高、训练分布无指南等局限。
腾讯混元CL-bench续作发布，让大模型读懂你的日常生活
腾讯混元团队推出CL - Bench Life，用于精准衡量AI在现实生活中的“上下文学习”能力。测试12个语言模型，结果显示模型处理高噪声零碎context能力不足，揭示当前顶尖AI模型还远未读懂日常。
刚刚，国产AI双冠王！黑马世界模型打破全球纪录，一镜到底封神
生数科技的MotuBrain零宣发登顶双榜，打通「看懂世界+执行行动」，适配多个头部机器人本体。它基于Motus进化，具备多本体、多任务、长程执行能力，展示出强大的「一脑多能」和「一脑多型」特点。
xAI落后太多，马斯克“开大”重金求购Cursor，100亿美金“分手费”都敢签！
SpaceX宣布协议，或600亿美元收购代码生成初创公司Cursor，也可能支付100亿美元合作费。xAI代码生成能力落后，此次交易为其带来更强市场立足点，也助Cursor解决算力瓶颈。
你写的Skill，正在拖慢模型？策略式Gene才是正确答案
EvoMap团队与清华围绕‘Skill拖慢模型’问题研究，提出‘Gene’概念。经实验，Gene在控制模型表现上优于Skill，还定义了GEP协议。其成果在CritPt基准测试表现出色，为Agent经验复用提供新方向。
放弃开源、重组权力！扎克伯格掏出Muse Spark，杀回大模型主桌
Meta在AI发展遇阻后推出Muse Spark，它是MSL首个模型，定位为通向个人超级智能的第一步，性能表现出色，当前闭源，未来Muse系列或有开源变体，标志Meta AI权力结构重塑。
让机器人学会手往哪儿伸、怎么操作，东大团队给了新解法
东南大学魏秀参团队提出 RAAP 解决具身智能领域可供性预测难题。它将 affordance 分解，设计互补推理机制，每任务仅需数十样本，已被 ICRA 2026 接收，实验显示其性能优于基线。
壁垒在上下文，不在模型
特赞科技发布企业级智能体系统 GEA，推出发散推理模型和企业上下文系统。指出模型能力易复制，企业上下文才是壁垒。GEA 架构分四层，有独特的推理和执行模式，已在多家企业部署。
Anthropic史诗级泄密！全新模型意外曝光：能力碾压Opus 4.6，因太危险被限制发布
Anthropic重大泄密，全新模型“克劳德神话”（Claude Mythos）及Capybara层级曝光。新模型性能超Claude Opus 4.6，但因网络安全隐患大未全面发布，首批仅给安全机构。泄密源于配置失误。