搜索：推理可解释性

「推理可解释性」共找到 5609 篇相关文章

Andrej Karpathy 提出判断什么工作会被 AI 替代的新标准

Andrej Karpathy 提出判断工作是否会被 AI 替代的新标准，即不看复杂度看可验证性。他在 Software 2.0 框架下解释此现象，还指出任务被 AI 自动化需满足可重置、高效、可奖励三个条件，同时提及该框架有局限性。

OpenAI用全新通用推理模型拿下IMO金牌，抢了谷歌DeepMind的风头。此模型是融合新通用技术的推理LLM，在推理时间跨度和效率上有进步。奥特曼借此为GPT - 5预热，陶哲轩指出缺乏统一标准时对比AI表现无意义。

Nature报道，补充大脑锂储备可预防甚至逆转阿尔茨海默病。研究通过小鼠实验发现，乳清酸锂能逆转神经病变、消除记忆障碍。此前锂多用于精神药物，此次发现或为老年痴呆治疗带来新方向。

近年大语言模型在推理任务能力惊人，但使用外部工具存挑战。传统SFT无法让模型自主调用工具，强化学习虽被引入，但在智能体推理中面临训练效率、稳定性和泛化能力难题。论文从多维度解构智能体强化学习，提出有效方法。

Karpathy发布开源项目autoresearch，可让AI优化AI。作者分享用其优化skill的实践，介绍优化流程，指出可将模糊表述拆成可判断是非题，还提及定义评估标准的方法与常见错误修正。此外，还能用于代码性能优化。

华为诺亚研究员推出全新编程基准HLCE，含235道竞赛难题。实验显示，顶级LLM在该基准表现不佳，推理模型优势大，IOI交互式题难攻克。研究还发现模型自我认知与推理能力发展不同步，Test Time Scaling Law远未达上限。

研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。

深圳大学黄惠团队推出 CLR - Wire 方法，将复杂三维曲线框结构编码到连续潜空间，解决传统难题，能实现高效生成与平滑插值，相关代码已开源，在多领域有应用前景。

随着AI广泛应用，安全担忧增加，需系统方法论梳理和消减风险。此前Google的SAIF框架原理完整但操作性差，此次介绍Databricks的DASF框架，具体易落地，介绍通用数据中心AI系统四阶段、12组件及62个安全风险与消减方法。

OpenAI推出ChatGPT购物功能，用户可在其平台直接下单Etsy和Shopify商品。该功能仅面向美国部分用户，构建了ACP协议打通聊天和支付。此功能或冲击谷歌、亚马逊等电商巨头。