搜索：模型训练难题

「模型训练难题」共找到 8734 篇相关文章

DeepSeek悄悄开源LPLB：用线性规划解决MoE负载不均

昨天，DeepSeek 在 GitHub 上线新代码库 LPLB 解决 MoE 负载不均。它利用线性规划算法优化专家并行工作负载分配，能处理动态波动，但也存在忽略非线性成本等局限，对 MoE 架构训练加速有参考价值。

OpenAI官宣GPT - 6 Astra，自称‘世界上最聪明、对齐最好的模型’，总裁称迎来AGI时代。它成绩亮眼，能直接完成工作，达网络安全阈值，训练让AI深度参与，但价格较贵。

LLM时代，RAG成知识密集型任务标准范式，但处理长上下文时面临延迟高、内存贵问题。Meta超级智能Lab针对RAG特殊结构优化，提出REFRAG框架，有独特训练策略，实验效果显著。

作者作为cursor重度用户和算法出身玩家，分享AI编程赛道技术内幕。探讨AI编程视角下RL的难题，介绍AI编程体验进化要素，还聊了cursor 1.0更新，最后指出AI编程工具发展趋势。

腾讯混元联合腾讯音乐推出 HunyuanVideo - Avatar 模型，上传照片配音频就能生成动态视频。支持多风格角色、情绪控制和多角色对话，单角色模式已开源，技术有创新，在多数据集表现优。

总部位于北京的 Moonshot AI 发布 1 万亿参数的 Kimi K2 系列大语言模型，包括预训练和微调版本。它输入输出能力强，架构独特，在多基准测试领先，支持工具调用，多家服务商已集成。

OpenAI官网发公告回应GPT-5.5爱说“哥布林”问题。原来是对“书呆子”人格训练时，无意中对使用生物比喻的模型给予高奖励，导致“哥布林”表述扩散。之后移除相关奖励和过滤数据来解决。

过去两年视频生成发展近成熟，但多数模型缺乏空间结构稳定建模能力。西湖大学AGI Lab团队提出论文，将问题落回推理阶段，让相机轨迹成约束条件，推进视频生成到三维结构约束建模。

北京邮电大学、腾讯微信、清华大学团队提出We - Math 2.0，含知识体系、数据集及训练策略，可提升模型数学推理泛化能力。该成果在X上获关注，登Huggingface Paper日榜第一。

给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余，提升训练与推理效率。北大等团队剖析其全貌，给出完整图谱与选型指南，还揭示了未来演进路径。