「低精度训练」共找到 3108 篇相关文章
UserBench 与 UserRL 带来的交互智能范式转向
当下大模型在与用户交互时存在不足，来自UIUC与Salesforce的UserBench和UserRL两篇新作，将‘用户价值’量化，把‘可测的交互’转化为‘可训练的策略’，从评测和训练层面推动模型向‘懂用户’转变。
阿里通义发布并行计算新策略：1.6B等效4.4B，内存消耗骤降95%
阿里通义团队提出PARSCALE并行计算新策略，受CFG双路径推理机制启发，将并行思想扩展到训练和推理全流程。能让1.6B模型性能接近4.4B模型，内存占用大降，还可用于现有模型，无需从头训练。
LoRA中到底有多少参数冗余？新研究：砍掉95%都能保持高性能
这篇创新研究介绍了LoRI技术，证明即使大幅减少LoRA的可训练参数，模型性能依然强劲。研究团队在多个任务上测试了LoRI，发现仅训练LoRA参数的5%，LoRI就能匹配或超越其他方法的性能。
关于机器人数据，强化学习大佬Sergey Levine刚刚写了篇好文章
训练大模型难度随规模和应用拓展而增加，所需数据海量。机器人领域获取训练数据成本高，研究者尝试找替代方案。强化学习大牛Sergey Levine分析数据组合，认为鱼和熊掌不可兼得，替代数据有局限。
这家公司刚成立7个月，正在打磨通用具身智能的终极形态
超维动力（Kinetix AI）于2025年7月注册，9月研发，不足一年便举办独特发布会，让KAI人形机器人“自己发布自己”。其认为高拟人是训练强世界模型前提，构建了含本体、世界模型等的技术体系，但面临工程与成本挑战。
AMS | 西工大董戴玮、张伟伟等：求解偏微分方程的残差级联极限学习机
本文设计残差级联极限学习机（RC - ELM）缓解极限学习机（ELM）求解偏微分方程的病态问题。将多个ELM块级联，配备相同隐藏层，传递残差求解。实验显示，相比经典ELM，RC - ELM精度优势显著，误差降约4个数量级。
ACL'25最佳论文解读 | 大模型也会‘弹簧回弹’？揭秘 LLM 对齐的脆弱根源
本文分享 ACL 2025 最佳论文，指出预训练大模型存在‘抗对齐’的 Elasticity 现象，即对齐微调只是暂时拉伸，后续微调会让其迅速弹回预训练分布。研究量化该概念，用‘压缩理论’刻画对齐并实验验证。
ART：构建可靠智能体的强化学习新框架
现有AI智能体在真实场景表现不稳定，阻碍其应用走向生产。ART开源强化学习框架诞生，通过分离“前端”与“后端”、兼容OpenAI推理端点等创新化解困境，还给出使用方法，在案例中展现强大效能与经济性。
最懂英伟达的CoreWeave，为啥突然花钱买了个强化学习作坊？
算力巨头CoreWeave市值达483.9亿美元，收购专攻强化学习训练AI智能体的OpenPipe。CoreWeave想打造全能平台，此前已收购W&B，此次收购标志其涉足智能体核心训练环节。OpenPipe的ART框架有独特优势。
GPT-5刷屏吊胃口之际，英伟达发出暴论：小型语言模型才是未来
英伟达新论文指出，未来属于小型语言模型（SLM），挑战了智能体需用大型语言模型（LLM）的假设。SLM参数量低于100亿，有低延迟、低成本等优势，还给出从LLM到SLM迁移路线图。