搜索：数据中心动态训练

「数据中心动态训练」共找到 2589 篇相关文章

UserBench 与 UserRL 带来的交互智能范式转向

当下大模型在与用户交互时存在不足，来自UIUC与Salesforce的UserBench和UserRL两篇新作，将‘用户价值’量化，把‘可测的交互’转化为‘可训练的策略’，从评测和训练层面推动模型向‘懂用户’转变。

阿里通义团队提出PARSCALE并行计算新策略，受CFG双路径推理机制启发，将并行思想扩展到训练和推理全流程。能让1.6B模型性能接近4.4B模型，内存占用大降，还可用于现有模型，无需从头训练。

这篇创新研究介绍了LoRI技术，证明即使大幅减少LoRA的可训练参数，模型性能依然强劲。研究团队在多个任务上测试了LoRI，发现仅训练LoRA参数的5%，LoRI就能匹配或超越其他方法的性能。

训练大模型难度随规模和应用拓展而增加，所需数据海量。机器人领域获取训练数据成本高，研究者尝试找替代方案。强化学习大牛Sergey Levine分析数据组合，认为鱼和熊掌不可兼得，替代数据有局限。

超维动力（Kinetix AI）于2025年7月注册，9月研发，不足一年便举办独特发布会，让KAI人形机器人“自己发布自己”。其认为高拟人是训练强世界模型前提，构建了含本体、世界模型等的技术体系，但面临工程与成本挑战。

本文分享 ACL 2025 最佳论文，指出预训练大模型存在‘抗对齐’的 Elasticity 现象，即对齐微调只是暂时拉伸，后续微调会让其迅速弹回预训练分布。研究量化该概念，用‘压缩理论’刻画对齐并实验验证。

算力巨头CoreWeave市值达483.9亿美元，收购专攻强化学习训练AI智能体的OpenPipe。CoreWeave想打造全能平台，此前已收购W&B，此次收购标志其涉足智能体核心训练环节。OpenPipe的ART框架有独特优势。

Thinking Machines Lab发布《在策略蒸馏》博客，提出在策略蒸馏可结合强化学习纠错与SFT奖励密度，成本低且能让小模型有强大性能。该成果受Qwen团队启发，大量用Qwen3模型。还对比了不同训练方法。

文档OCR正迈入小模型时代，MonkeyOCRv2以0.7B、0.6B参数在MDPBench上超越3B模型。它重新分配系统职责，采用互补预训练目标，还开源训练数据，且迁移到多任务表现良好。

新浪微博开源的VibeThinker - 1.5B模型，仅15亿参数、训练成本不足8000美元，却在顶级数学竞赛基准击败近万亿参数模型。它采用频谱到信号原则，分两阶段训练，性能出色，成本低且数据无污染。