搜索：MoE训练 - AI Reading Hub

「MoE训练」共找到 2230 篇相关文章

一种基于滑动层合并的高效深度修剪大模型的方法

文章指出深度修剪可加快推理速度，但直接丢层会降低性能。为此提出滑动层合并法，根据相似度阈值融合连续层，简化结构且保持性能。实验显示该方法优于现有技术，还揭示了与宽度修剪结合的潜力。

香港科技大学、Manycore联合开源空间大模型SpatialLM，用于处理3D点云数据。它结合点云特征提取、对齐和语言生成，实现高效转换。研究团队经多种尝试选定基于点的方法及Sonata编码器，还选Qwen2.5 - 0.5B为基础模型。

国际算法奥赛金牌得主团队测试20个顶级大模型，在584道编程赛题上，高难度题目AI通过率为0%。论文发布LiveCodeBench Pro评测方法，揭示AI编程能力神话泡沫，指出其问题并给出提升方向。

大概念模型（LCM）是自然语言处理新范式，侧重结构化推理和理解，与 LLM 不同。它依赖结构化知识，可模拟专家思维，解决当前 AI 缺陷，文章还介绍其架构、应用、局限，探讨与 LLM 结合的未来发展。

DeepSeek-V3 是热门开源大模型，采用大规模 MoE 架构，优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化，对齐其推理系统性能，分享关键技术、不足与思考，还提及对 Qwen3 模型的优化策略。

OpenAI研究员探讨推理模型时代。Noam Brown强调预训练和推理范式，指出当前AI胜在通用性。推理范式成本低、效果好，如o系列模型表现出色。首席经济学家谈AI经济影响，称其重塑企业格局。

介绍新发布的开源TTS模型Muyan - TTS，它专为播客场景设计，以超低延迟实现零样本语音合成，预训练大量播客数据，支持长内容连贯生成，还介绍了使用步骤、适用场景等。

近日，AI音乐公司ACE完成近4000万美元新一轮融资，成AI音乐赛道融资额最高的华人团队。它自己训练音乐基础模型与做应用，构建数据飞轮，还推出新消费级产品Miya，欲打造AI时代的Spotify。

最新爆料，Gemini 3.8 Flash明日登场，谷歌已放弃Gemini 3.5 Pro。其编程实力强悍，之前还为Gemini植入智能体视频理解功能，降本提效，可应对多种高难度场景。近期多家AI发布计划撞车，混战升级。

文章详细讲解推理强度原理，指出其不改模型，只改草稿长度。还说明模型多思考能提高答题准确率的原因，剖析贵和慢的原因，介绍三种控制形态，并给出判断推理强度档位的框架。