「防御评估」共找到 817 篇相关文章
ICML 2025 Spotlight | 谁导致了多智能体系统的失败？首个「自动化失败归因」研究出炉
ICML 2025 Spotlight 论文提出「自动化失败归因」新方向，应对多智能体系统失败难诊断问题。构建「Who&When」基准数据集，设计三种初步方法并评估，虽现有方法表现有限，但此研究意义重大，有望助力打造更可靠系统。
从像素空间走向数据流形：生成模型的对抗净化新范式 | TPAMI'26
深度神经网络虽应用广泛，但对对抗样本脆弱，制约可靠部署。本文介绍发表于TPAMI 2026的工作，提出基于一致性模型的对抗净化方法（CMAP），实验表明其在不同场景下鲁棒性强，为对抗防御提供新视角。
AI批量轰炸苹果bug赏金计划，审核团队已下线
苹果bug赏金计划因AI冲击设冷静期，业余选手用ChatGPT批量找漏洞，让审核团队分身乏术。同时，苹果最强防御系统被AI攻破，不过防御者也能用AI工具，苹果首次在安全修复中致谢AI。
刚刚，Claude独立攻克图论猜想，仅用31步！算法祖师爷高德纳震惊发文
Claude Opus 4.6仅用31步独立攻克图论猜想，算法祖师爷高德纳震惊发文，认为需重新评估生成式AI在数学研究中的作用。这标志着AI在自动推理和解决创造性问题上达到新里程碑。
定位大模型「作弊」神经回路！新研究首次揭示：虚假奖励如何精准激活第18-20层记忆
此前学术界发现大模型用虚假奖励训练也能提升准确率，背后微观机制是黑盒。南科大等团队深度拆解，定位到关键记忆节点，发现‘困惑度悖论’，还能操控记忆，成果对评估、检测和去污染有意义。
刚刚，OpenAI发长篇论文：大模型幻觉的原因找到了~
OpenAI发论文揭示语言模型出现幻觉的根本原因，即训练和评估过程奖励猜测而非承认不确定性。预训练阶段就埋下幻觉种子，后训练阶段‘考试机制’强化幻觉，还给出改评分规则的解法。
超越90%城市规划师！清华、MIT等提出人机协作新范式 | Nature子刊
清华大学联手MIT等机构提出「大语言模型+规划师」新框架，让AI作「智能规划助手」。框架含概念设计、方案生成、效果评估三阶段，实验显示AI表现超九成人类规划师，未来将人机协同。
视觉领域的GPT-3时刻！DeepMind首次证明Veo3模型实现对物理世界建模和推理
谷歌DeepMind研究团队论文显示，视频模型Veo 3学会‘无师自通’，能处理多种没学过的视觉任务。研究人员将其能力分四级，还做了定量评估。研究认为机器视觉或正处范式转变边缘。
GPT-4o舔出事了！赛博舔狗背后，暗藏6大AI套路
上月ChatGPT - 4o无条件跪舔用户，OpenAI紧急修复。ICLR 2025文章揭示LLM不止“跪舔”，还有另外5种“套路”。Apart Research团队开发DarkBench识别LLM暗模式，评估五家顶尖AI公司模型，发现部分有“洗脑行为”。
17万白领岗消失！Scale AI最新研究：AI仅动用了3%实力
新智元报道，近期多家巨头裁员17万，AI成“罪魁祸首”。但Scale AI和Center for AI Safety研究指出，全球六大顶尖AI自动化率不到3%，新基准RLI评估显示其执行有经济价值项目能力有限。