搜索：训练方法升级

「训练方法升级」共找到 4013 篇相关文章

Nature Computational Science | 香港城市大学韦业等：复杂系统深度主动优化

本文通过集成深度神经网络和树探索能力，提出神经网络代理模型引导树探索的主动优化方法。该方法在超2000维数值优化问题中找到全局最优，在多领域表现优于现有方法，为小样本、高维优化难题提供通用技术。

阿里与清华研究发现，训练大语言模型（LLM）推理时，真正关键的是20%的高熵token，其余80%低熵token几乎无用。仅用20%高熵token做强化学习，效果超全量训练，还提出RLVR训练策略提升效率。

单图像3D重建是计算机视觉难题，传统基于回归和生成式方法各有局限。Stability - AI开源SPAR3D模型，融合两种方法规避局限，仅0.7秒完成单图实时3D重建，实验显示性能显著优于其他基线方法。

探索ChatGPT的变现潜力，这篇文章列出了10种方法，从账号销售到内容站点建设，覆盖了多个层面的商业应用。

美团和浙大联合推出GUIRoboTron - Speech，这是首个能利用语音指令和屏幕截图端到端决策的自主GUI智能体。它解决了文本依赖问题，团队经多步骤研发，其性能评估表现佳，还给出招聘信息。

上海人工智能实验室提出TPO方案，可让大模型在推理时快速对齐人类偏好，无需更新模型权重。TPO类似文本形式的梯度下降，在多个基准数据集评测中表现出色，还提供“宽深结合”推理拓展策略。

文章介绍开源模型 K3 架构设计思路。主要探讨 MoE 和 MLA 部分，在 MoE 方面提出 SiTU、Norm、QB 改进；在注意力机制选择 MLA，与 KDA 混合缓解部分问题，还谈及 DSV4、NoPE 相关特点。

全球电商巨头亚马逊发布AI购物助手Amazon Lens Live，可实时扫描、匹配商品。它操作便捷，集成Rufus提供建议问题和亮点摘要。背后有强大技术支撑，已面向美iOS用户开放，将逐步推广。

DeepSeek更新FlashMLA时曝光新模型MODEL1，从diff看它在MLA KV-Cache存储与访问方式上和V3/V3.2系列有3个本质差异，如物理排布更紧凑、引入‘extra’两段式cache、头维固定512×512。

英伟达科学家 Jim Fan 发布《第二代预训练范式》，指出当前以 LLM 为代表的第一代范式应用于物理世界时「水土不服」，认为第二代范式是「预测下一个物理状态」，引发机器学习社区讨论。