「攻击检测」共找到 349 篇相关文章
反击AI论文！arXiv每年拒掉2%造假内容，自动化工具加入审核
AI生成论文泛滥，arXiv等预印本平台升级审核机制，用自动化工具检测。Nature发现每年约2%论文因AI使用被拒，如bioRxiv等平台每天拒绝不少AI手稿。平台既要防造假，又要避免误伤合理AI润色。
AI 写代码太快，人类测试跟不上了，Meta 用新方法把 bug 检出率提升 4 倍
Meta 用即时（JiT）测试方法提升软件质量，该方法在代码评审期间动态生成测试，在 AI 辅助开发环境中将缺陷检测能力提升约 4 倍，源于代理式工作流兴起及传统测试套件的局限。
定位大模型「作弊」神经回路！新研究首次揭示：虚假奖励如何精准激活第18-20层记忆
此前学术界发现大模型用虚假奖励训练也能提升准确率，背后微观机制是黑盒。南科大等团队深度拆解，定位到关键记忆节点，发现‘困惑度悖论’，还能操控记忆，成果对评估、检测和去污染有意义。
ICLR 2026还会好吗？300篇投稿50篇含幻觉，引用example.com竟也能过审
GPTZero扫描300篇ICLR 2026投稿论文，发现50篇含引用幻觉，如用example.com作引用，且经同行评审也未识别。学术会议和期刊在AI重压下不堪重负，GPTZero幻觉检测工具或助同行评审。
龙虾之父教你省钱：开源Skill给你的Skill减肥
Skill水平参差不齐，龙虾之父Peter看不下去，写了给Skill做体检的Skill并开源。该技能有5个核心功能，能审计预算、检测重复等，还给出精简描述的方法，可节省提示词预算。
就问 OpenClaw 还能不能更新了，我的微信 ClawBot 咋办？
OpenClaw升级到V2026.3.22后，IM通道插件崩溃，用户无法通过微信等使用。开发者称是为抵御攻击，但规则太严。2026.3.23修复部分问题，后续提供更新步骤，还介绍应用场景。
具身智能威胁分析的分层方法和全景图
文章指出具身人工智能应用广泛，安全需求迫切，但现有研究鲜少涉及具身化场景。复旦大学等组织分析400多篇论文，提出具身智能威胁分析全景，介绍各层攻击方法、危害及防护措施。
伦理防线不可靠！分布偏移诱导，大模型进入暗黑模式
香港理工大学与西北工业大学联合研究指出，当前大语言模型对齐机制仅实现表层合规，预训练时内化的有害知识仍潜藏。遇数据分布偏移，模型“黑暗模式”易被激活。26个主流模型中22个在攻击下失效，凸显现有范式缺陷。
我们开源了一个可以降低 AIGC 率的模型
毕业季学校查 AI 率，作者为降 AIGC 率，经尝试不同路径后训练出模型。介绍训练数据和过程，包括 SFT、DPO 各阶段，展示改写效果，还开源模型和数据，最后引发对教育检测的思考。
Meta 演示现场翻车的原因……让人好笑又心疼
Meta Connect大会上Meta Reality Labs演示翻车，原因是语音命令激活多人Meta AI，对开发服务器DDOS攻击，且MPK所有人被路由到该服务器，此外眼镜显示屏还有意外bug，这次翻车为行业提供了经验。