「高稀疏度MoE结构」共找到 712 篇相关文章
模型训练篇｜多阶段ToolRL打造更可靠的AI导购助手
当前，AI导购成电商与服务平台新风口，但芝麻租赁场景挑战大，存在需求难匹配等痛点。为此打造AI导购智能体“租赁小不懂”，经架构升级和算法优化，性能提升，还探索了MoE训练和推理优化。
vivo发布端侧多模态模型，只有3B可理解GUI界面，20项评测表现亮眼
vivo AI Lab发布端侧多模态模型BlueLM - 2.5 - 3B，融合文本与图文能力，支持长短思考模式切换。它在20余项评测中表现出色，参数量小，训练和推理成本低，有精巧结构、高效策略，还有高质量数据和高性能平台支撑。
华为盘古大模型:被芯片牵制的“千古”模型
华为盘古大模型团队员工自曝内幕，称其受芯片限制，早期算力有限、训练困难。还指出内部存在造假、套壳等问题，如135B V2套壳Qwen 1.5 110B，pangu pro moe 72B套壳qwen 2.5的14b等，导致人才流失。
只需1/4预算，性能反超基线：阿里高德提出Tree-GRPO，高效破解智能体RL难题
阿里高德提出Tree - GRPO方法解决智能体RL难题。它以智能体步骤为节点树搜索，在11个数据集中更省预算、表现更好，能在1/4预算超GRPO基线，解决了Rollout成本高和监督稀疏问题。
将 AI 注入 Java 应用程序
文章围绕将 AI 注入 Java 应用程序展开，以宇宙飞船租赁应用的聊天机器人为例，介绍如何用 LangChain4j 和 Quarkus 等 Java 框架与大语言模型（LLM）交互，还提及流式响应、结构化输出等功能及相关概念。
菲尔兹奖得主都栽了！Claude终结78年悬案，或成最重要AI数学成果
78年数学难题“六维球面上有无复结构”被哈佛数学家Levent Alpöge和Claude解决，他们绕开老路造出答案，还给出108页论证，数学家挑不出毛病。Alpöge在35天内三次用AI破难题，这次性质不同，是模型创造新对象。
全网最强万字解读：DeepSeek-V4 掀翻了谁的桌子？ | GAIR live 030
文章深度解读了DeepSeek-V4，从产业、生态和架构维度拆解其效率账本。它成本低，补齐短板适配昇腾芯片，但极致省钱也有代价，如性能衰减、架构复杂等。还探讨了长上下文、MoE与稠密模型路线差异及商业化潜力。
GRPO遭遇瓶颈？G²RPO-A让自适应指导为小模型推理能力「开外挂」
大模型推理能力难迁移到小模型，现有强化学习方法如GRPO在小模型上性能提升有限。香港中文大学（深圳）唐晓莹教授团队提出G²RPO - A算法，缓解小模型奖励稀疏问题，在多模型实验中表现优于vanilla GRPO。
智能体编程“小钢炮”：Qwen3.6-35B-A3B开源！
Qwen3.6-35B-A3B开源，是稀疏MoE模型，总参350亿、激活参数30亿，轻量高效，在智能体编程等方面表现卓越，超越前代，可与稠密模型媲美，支持多模态，已在Qwen Studio上线并发布开源权重。
不可思议！400B大模型在iPhone上跑起来了
一个跑在 iPhone 17 Pro 的 A19 Pro 芯片上的 400B 大模型 Qwen3.5 - 397B - A17B 引发关注。这源于 Flash - MoE 开源项目，它摒弃现代 AI 框架，回归底层开发，实现消费级硬件上大模型交互级速度运行。