「防护方法」共找到 1612 篇相关文章
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
硅谷今日最热具身模型！不用后训练，看一遍就学会
北美具身初创Skild AI发布全新机器人基础模型S1，主打上下文学习，能看示范视频完成复杂操作。在未见过任务上成功率达66%，远高于传统方法。其发展或让开发机器人技能像给ChatGPT写Prompt。
AIAA J | 香港理工大学王旭等：目标导向的特征提取-以特征构建增强数据驱动模型
该论文通过对比学习理清潜在输入特征与目标输出的关联性，提出输出驱动的输入特征构造方法。所构造特征在高维代理模型构建中增强效果显著，还可减少预测误差分布及不同模型收敛性和鲁棒性差异。
7B小模型超越DeepSeek-R1：模仿人类教师，弱模型也能教出强推理LLM | Transformer作者团队
Transformer作者之一创立的Sakana AI带来新方法，让教师模型像人类教师一样做启发式教学，根据已知解决方案输出解释。用此方法训练的7B小模型在传授推理技能上比671B的DeepSeek - R1更有效。
烧钱，能解决 AI 存储的焦虑吗？
存储短缺焦虑或延续至 2026 年，传统云存储因 AI 落地面临性能、成本等压力。InfoQ 联合腾讯云邀行业人士探讨成因、策略与竞争主线，还给出存储价值评估与规划方法，介绍文远知行和腾讯云实践。
中学生就能看懂：从零开始理解LLM内部原理【十】｜ “过拟合” 与 Dropout
文章围绕神经网络过拟合问题展开，介绍了过拟合的概念、危害及产生原因，阐述了缓解过拟合的正则化方法，重点介绍了Dropout随机失活，还指出其局限性及在大模型中的应用策略。
半在线RL新范式UI-S1，使得GUI Agent既稳定又规划长远
现有AI训练方法在GUI自动化中各有弊端，本文提出半在线强化学习范式，训练出UI - S1 - 7B模型，性能提升显著，还提出新评估指标SOP，是迈向实用化AI智能体的重要一步。
AI操作有了“紧急刹车”！通义&自动化所AI决策诊断模型，GUI智能体纠错正确率SOTA
阿里通义实验室与中科院自动化所推出GUI - Critic - R1模型，能在GUI智能体操作执行前诊断决策，避免错误。介绍了其动机、方法、数据集及实验，证明该模型在生成判断和提建议方面有效。
UC伯克利新作颠覆认知：LLM靠「自信爆表」学会推理？无需外部奖励超进化
UC伯克利华人团队发现，LLM不靠外部奖励，仅靠「自信爆棚」就能学会复杂推理。他们提出基于内部反馈的强化学习（RLIF）新范式，用INTUITOR方法让模型用自身置信度作内在奖励，在多任务中表现良好。
ICML26 | 浙江理工大学马啸讲师和南京大学李武军教授课题组联合提出EMCES：为强化学习合成更有价值的样本
强化学习获取高质量样本成本高、风险大，现有基于扩散模型的样本增强方法有局限。浙江理工大学马啸讲师和南京大学李武军教授课题组提出 EMCES，将情景记忆机制引入可控扩散模型，提升下游强化学习算法表现，论文已被 ICML2026 录用。