「超大规模MoE」共找到 164 篇相关文章
算法论文8
GPT-4V仅达Level-2？全球首个多模态通才段位排行榜发布，General-Level打造多模态通用AI评测新范式
General-Level团队提出全新评测框架General-Level和数据集General-Bench，构建超大规模评测基准和多模态通才模型排行榜。其用五级段位体系衡量模型通才能力，General-Bench覆盖多模态任务，排行榜分多层次榜单，目前各模型段位差异大，Level-5空缺。
量子位
开源动态8
小红书开源大模型dots.llm1，初次出手，小有惊艳！国外网友们又炸了……
小红书hi lab团队公布首个开源大模型dots.llm1，这是142B参数的MoE模型，仅14B激活参数就能与Qwen2.5 - 72B打平。它开源力度大，训练效率高，数据处理精细，训练稳定，获国外网友高度关注。
AGI Hunt
产品应用8
Natura-1发布：从百万小时人类经验中学会零样本泛化与灵巧操作
本文报道北京具身智能公司自然意志发布全新Natura-1模型，该50B参数MoE模型基于百万小时人类第一视角经验预训练，可驱动20自由度灵巧手实现零样本泛化，完成各类复杂日常操作，攻克了机器人灵巧与通用难以兼得的难题。
机器之心
开源动态8
蚂蚁开源 x SGLang Meetup技术回放解读系列之面向DeepSeek系列模型的深度优化与实践
文章是对蚂蚁开源x SGLang Meetup中「蚂蚁Theta面向DeepSeek系列模型的深度优化和实践」分享的解读，详细介绍了在H20-96G上对DeepSeek系列模型推理的优化方案，包括Prefill和Decode阶段的优化、通信优化、观测诊断等，并给出了评测结果。
GiantPandaLLM