「安全研究」共找到 2693 篇相关文章
ICML 2025 Spotlight | 用傅里叶分解探讨图像对抗扰动，代码已开源
文章聚焦图像对抗净化，现有基于扩散模型策略在时域难解耦干净像素与扰动，损害图像语义。作者从频域研究，用傅里叶分解，发现扰动倾向破坏高频谱，提出注入低频信息，效果显著，论文与代码已开源。
TreeHop：无需LLM的高效多跳问答新范式
多跳问答（MHQA）任务有挑战，现有方法依赖LLM，计算成本高、延迟显著。TreeHop研究提出新方案，摒弃LLM，通过嵌入空间动态更新，降低延迟、减少模型参数量，还在主流数据集表现佳，适合工业应用。
Auto-Research「终极大考」：新基准撕下大模型科研伪装
来自多所高校的研究者提出MLS - Bench，用于解决现有Auto - Research评测的归因问题。它含140个真实研究任务，校准受控修改范围，主实验显示当前模型在方法发现上有明显缺口，Auto - Research需更严格评测标准。
从“会用”到“驾驭”：AI Coding 进入生产环境的真实碰撞
InfoQ《极客有约》X AICon 直播栏目，邀网易游戏林香鑫等探讨 Coding Agent 重构软件工程环节。嘉宾分享了 AI Coding 在生产环境的变化、MCP 等概念作用、代码质量保障、Agent 权限及 AI 原生研发体系建设等观点。
YC 开源自家 Harness，3 天斩获 3.9k Star，QM 如何划清 Agent 的权限边界
YC开源的QM项目上线3天获3.9k GitHub Star，定位企业级Agent Harness，解决AI规模化落地管理难题。它补齐企业团队刚需能力，设计贴合企业规则，解决隔离与协作、权限管理问题，顺应行业从拼模型到搭骨架的转变。
大部分token根本不该重复计算，不止于KVCache
斯坦福研究显示，AI Agent每次调用62%内容重复，现有前缀缓存虽有优化但天花板低，阿里云数据表明多数缓存块利用率低。LMCache将缓存管理独立，解决性能问题，其CacheBlend技术复用缓存，适配多引擎和存储后端。
满分的「差」，Qwen与复旦等揭示编程智能体奖励设计的结构性困境
Qwen团队与复旦等联合发表论文《The Verification Horizon: No Silver Bullet for Coding Agent Rewards》，指出编码智能体奖励设计存在结构性困境，任何奖励信号只是人类意图的‘替身’，验证需成系统与智能体协同演化，并研究多种验证者。
刚刚，翁荔博客上新：谨慎对待Scaling Law
翁荔新作《谨慎对待 Scaling Law》上线，文章涵盖 Scaling Law 预测内容、计算最优分配原理等。介绍了早期对机器学习损失可预测性的研究，还对比了 Kaplan 等人与 Chinchilla 的 Scaling Law，分析了两者分歧原因。
混元开源PhoneBuddy-4B与5篇系列论文：多项手机Agent真机评测超过GPT-5.4
腾讯混元Phone - use Agent团队发布PhoneBuddy - 4B及5篇系列论文。研究探讨如何训练真实可用的Phone - use Agent，采用Real + Mock方式，实验显示该方法提升效果显著，4B模型多项任务超GPT - 5.4。
TACO: 让 CLI Agent 在自主迭代中学会丢掉无用上下文
由多校及研究团队联合提出 TACO，这是无需训练、即插即用的终端智能体自进化观测压缩框架。它能让智能体学习压缩规则，过滤低价值输出，保留关键线索，实验显示其提升了任务成功率和 token 效率。