搜索：可解释性研究

「可解释性研究」共找到 5664 篇相关文章

RL训练一层就够了！单层RL超越全参数训练，跨任务跨模型跨算法全部验证

明尼苏达大学、北大和亚马逊团队研究发现，RL收益集中在中间层，训练单层可超全参数训练。他们提出层贡献度指标，经多模型、算法、任务实验验证，还给出三种训练优化策略。

2025年Agent成AI领域焦点，大厂纷纷布局。作者测试MiniMax Agent，发现其有四大特点：深度研究和上下文管理强，多模态输出出色，编程能力超预期，能执行定时任务，还能开发带后端的全栈网站。

人大和蚂蚁的 SearchOS 研究，给出搜索智能体在长程任务中问题的答案。它借鉴数据库理念，做了多项核心设计，在开放信息检索基准评测领先，已提供多种使用方式，值得长程调研尝试。

Anthropic扩展Claude Managed Agents平台，推出自托管沙箱和MCP隧道功能。自托管沙箱公测，支持多服务商运行工具；MCP隧道处研究预览，可让代理连私有MCP服务器，满足企业管控需求。

最新研究显示，MCP协议存在重大漏洞，攻击者可利用LLM的指令/数据混淆漏洞直接访问数据库。研究者基于Supabase搭建系统演示攻击过程，还给出降低风险的解决措施。

OpenAI 昨晚推出 Codex 研究预览版，这是强大的远程编码智能体，能导航代码库、解答疑问等。官方还发布使用指南视频，介绍了快速上手步骤、工作方式，以及提升效能的方法。

给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余，提升训练与推理效率。北大等团队剖析其全貌，给出完整图谱与选型指南，还揭示了未来演进路径。

谷歌论文提出 Memory Caching 技术，通过架构机制创新赋予 RNN「可生长的记忆容量」，兼顾 Transformer 与 RNN 优势，能处理更长文本、降低推理资源门槛，实验显示有良好效果。

香港科技大学研究团队提出 RebuttalAgent 框架，将心智理论引入学术 Rebuttal 任务。它通过 TSR 框架拆解任务，先‘读心’再‘落笔’，能生成有说服力回复，还可作为‘思维外挂’提升小模型表现。

清华、墨尔本大学团队研究指出，基于开源模型微调专有模型存在新型隐藏安全风险，开源模型发布者可埋后门窃取下游微调数据，新风险难检测、危害大，目前攻防方法待改进。