搜索：可解释性研究

「可解释性研究」共找到 5454 篇相关文章

这个国产Deep Research 有些「另类」：它不想只授你以鱼，还想授你以渔

文章介绍秘塔AI的Deep Research产品，它有“问题链”展示，研究过程可视化，免费开放。实测中它表现出色，能深度分析问题、给出有价值结论。虽有小瑕疵，但在深度研究赛道领先，让AI思考透明、研究普惠。

谷歌 DeepMind 推出 Gemini Robotics On-Device，这是视觉 - 语言 - 行动基础模型，可在机器人硬件本地运行，低延迟且能针对特定任务微调。它是 Gemini Robotics 家族最新迭代，还发布相关基准测试。模型待广泛可用，SDK 可在 GitHub 找到。

作者Phodal分享将十年写作经验整理成写作Skill的过程。指出用AI写作输出不稳定，问题在于未将写作决策工程化。经样本整理、模式提取、规则改写等步骤，形成可复用的写作系统，强调其可放大经验可迁移性。

华为与香港科大研究发现，多模态视觉语言模型中，长思维链SFT与RL组合难协同增益。研究引入难度分类方法构建数据集，分析各方法表现及组合策略困境，还给出实验发现与未来研究方向。

Andrej Karpathy 提出判断工作是否会被 AI 替代的新标准，即不看复杂度看可验证性。他在 Software 2.0 框架下解释此现象，还指出任务被 AI 自动化需满足可重置、高效、可奖励三个条件，同时提及该框架有局限性。

Karpathy发布开源项目autoresearch，可让AI优化AI。作者分享用其优化skill的实践，介绍优化流程，指出可将模糊表述拆成可判断是非题，还提及定义评估标准的方法与常见错误修正。此外，还能用于代码性能优化。

研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。

随着AI广泛应用，安全担忧增加，需系统方法论梳理和消减风险。此前Google的SAIF框架原理完整但操作性差，此次介绍Databricks的DASF框架，具体易落地，介绍通用数据中心AI系统四阶段、12组件及62个安全风险与消减方法。

DeepMind研究科学家Jon Richens团队在ICML 2025发表论文，从第一性原理证明智能体就是世界模型，回答了AI界多年的根本问题，还带来多个有趣推论，引发AI社区热烈讨论。

OpenAI推出ChatGPT购物功能，用户可在其平台直接下单Etsy和Shopify商品。该功能仅面向美国部分用户，构建了ACP协议打通聊天和支付。此功能或冲击谷歌、亚马逊等电商巨头。