「模型训练难题」共找到 8611 篇相关文章
英伟达Jim Fan：「世界建模」是新一代预训练范式
英伟达机器人主管Jim Fan判断，继“下一个词预测”后，世界建模将成新预训练范式，2026年大世界模型将为多模态AI奠基。他还讨论世界模型定义、应用，展望新推理形式，业内人士也各抒己见。
南洋理工、北大、上海AI实验室开源长记忆世界模型
目前世界模型模拟方法在维持长期一致性上有挑战，南洋理工大学、北京大学王选计算机技术研究所、上海人工智能实验室联合开源长记忆世界模型WORLDMEM，介绍了其记忆机制、基础架构、训练技术及检索策略等。
解决扩散模型过拟合的创新框架T-LoRA
预训练大型文本到图像扩散模型定制化时，样本有限易致过拟合。AIRI和HSE大学团队提出T - LoRA框架，动态调整训练能力、用正交初始化，实验显示其在单图像和多图像任务表现优，用户更偏好其生成图像。
腾讯开源WMT2025冠军大模型：拿下30个第一，同类最佳
昨晚腾讯开源WMT2025冠军翻译大模型Hunyuan - MT - 7B，它在31种语言测试中获30个第一，成同类最佳。文中介绍其架构、训练过程，还通过多场景翻译案例展现优势，有望推动高质量翻译普及。
人形机器人交付元年，行业从卷模型转向拼数据
2026年是具身智能交付元年，行业从卷模型转向拼数据。全球权威机构重新定义“人形机器人数据”地位，真机数据是模型落地关键。乐聚等企业积极布局，通过训练场模式获取数据，解决行业痛点。
公开模型一切，优于DeepSeek-R1，英伟达开源Llama-Nemotron家族
英伟达推出面向高效推理的 Llama-Nemotron 系列模型，包括 Nano、Super、Ultra 等规模，具备卓越推理能力与效率，采用开放许可。模型支持动态推理切换，训练结合多方法，性能优于 DeepSeek-R1 等。
免训练加速61倍！陈怡然团队新作DPad：仅关注「彩票token」
杜克大学陈怡然团队新作DPad，发现扩散大语言模型关注少量「中奖」token，推理速度可提61 - 97倍，还增强模型语境学习能力。DPad免训练零成本挑关键信息，实现「少算多准」。
面壁MiniCPM-SALA模型，稀疏-线性注意力，单卡吞吐百万上下文
面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。
世界模型开始做减法？LeCun团队和清华团队给出两种思路
近期，Yann LeCun团队的LeWorldModel用简洁JEPA实现从像素端到端训练世界模型，降复杂度且验证潜在空间物理刻画能力；清华团队的Fast - WAM探讨推理阶段显式生成未来必要性，给出高效替代路径。
LeCun亲自出镜打脸质疑者！憋了20年的AI世界模型，终于爆发了
LeCun亲自出镜介绍V-JEPA 2新进展，目标是开发改变AI与物理世界交互的世界模型。V-JEPA 2基于视频训练，有两阶段训练细节，能用于机器人规划，Meta还发布三个基准测试，后续将研究分层和多模态JEPA模型。