搜索：可解释性技术

「可解释性技术」共找到 6260 篇相关文章

Karpathy刚开源的autoresearch，我拿来优化龙虾skill，成功率从56%飙到92%

Karpathy发布开源项目autoresearch，可让AI优化AI。作者分享用其优化skill的实践，介绍优化流程，指出可将模糊表述拆成可判断是非题，还提及定义评估标准的方法与常见错误修正。此外，还能用于代码性能优化。

文章聚焦AI Agent技术前沿，阐述大语言模型三次能力跃迁，从涌现能力到对齐指令遵循，再到推理与行动。还提及Scaling Law变化，推理时计算扩展更划算，介绍代表性推理方案及多模态融合，指出Agent打破传统对话AI局限。

文章阐述了AI原生时代下，面向技术风险领域的智能体系统（DeRisk）的架构设计、核心理念等。介绍运维智能体发展现状，提出其技术演进需找三类Reward，还介绍相关概念、DeRisk架构，给出实践案例并将开源技术产品。

研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。

DeepSeek联合北大、清华开源多模态技术及论文，提出“视觉基元推理”框架，解决MLLM指代鸿沟问题。基于DeepSeek - V4 - Flash构建的模型，性能比肩GPT - 5.4等。论文还介绍架构、训练流程等。

深圳大学黄惠团队推出 CLR - Wire 方法，将复杂三维曲线框结构编码到连续潜空间，解决传统难题，能实现高效生成与平滑插值，相关代码已开源，在多领域有应用前景。

中国制造业正从「跟随者」变为「开拓者」，但产业化体系滞后。长三角推出「一条龙」计划，解决供应链、验证和迭代难题，初步成果显现，正开启产业化范式革命。

互联网内容多元，传统文本搜索引擎应对跨模态需求力不从心。阿里开源Qwen3-VL系列两大模型，Qwen3-VL-Embedding负责“海选”，Qwen3-VL-Reranker负责“决赛”，技术亮点多，实验表现优异。

随着AI广泛应用，安全担忧增加，需系统方法论梳理和消减风险。此前Google的SAIF框架原理完整但操作性差，此次介绍Databricks的DASF框架，具体易落地，介绍通用数据中心AI系统四阶段、12组件及62个安全风险与消减方法。

OpenAI推出ChatGPT购物功能，用户可在其平台直接下单Etsy和Shopify商品。该功能仅面向美国部分用户，构建了ACP协议打通聊天和支付。此功能或冲击谷歌、亚马逊等电商巨头。