「MoE大模型」共找到 9155 篇相关文章
没想到，最Open的开源新模型，来自小红书
向来低调的小红书昨日开源首个自研大模型 dots.llm1，它是中等规模的 MoE 模型，在较小激活量下性能良好。其开源力度堪称行业最大，还介绍了数据处理、训练优化等多方面技术细节。
NVIDIA技术沙龙 《大规模EP优化：PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记，介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新，还对比多模型架构，展示推理服务架构性能特点与优化策略，以及各技术工作流程和效果。
扒一扒Meta全新大模型Muse Spark里藏着的PDR技术
Meta发布闭源大模型Muse Spark及‘沉思模式’，背后藏PDR推理技术。该技术通过‘并行起草+精炼’突破性能瓶颈，对比传统长CoT范式优势明显，在AIME竞赛题目测试中准确率显著提升。
数据邪修大法好：仅用文本数据就能预训练多模态大模型
多模态大模型研发中，行业认为无图文对就无多模态能力。但ReVision研究表明，预训练阶段昂贵配对关系非必需，利用非配对数据统计信息修正文本表征，能实现跨模态互换，降低成本。
记忆罗盘：大模型智能体记忆的表征、操作与演进航向 | 直播预约
记忆对基于大语言模型的智能体迈向通用人工智能至关重要。来自多所高校及华为的研究团队分析超30000篇论文，提出记忆表征与操作分类坐标系，绘制记忆罗盘指明演进航向。2025.12.24有相关直播。
Attention Sink产生的起点？清华&美团首次揭秘MoE LLM中的超级专家机制
清华和美团研究聚焦MoE LLM，首次发现超级专家子集。通过多模型实证分析，揭示其分布规律、重要性及对注意力机制的影响，开发识别工具，为模型压缩提供新方向。
大模型中标TOP10里的黑马：中关村科金的应用攻坚之道
2025 年中国大模型产业招投标市场爆发，应用类项目占比近六成。中关村科金以 23 个中标项目入围应用类 TOP10，在多行业落地成果显著。2026 年行业将聚焦 ROI、数据壁垒等方面。
CAIR开源发布超声基座大模型EchoCare“聆音”，10余项医学任务性能登顶
2025年9月17日，CAIR开源发布超声基座大模型EchoCare“聆音”。它基于超450万张影像数据集训练，在10余项医学任务测试中表现卓越。首创结构化对比自监督学习框架，为AI医疗应用提供创新路径。
让大模型合成检查器：UIUC团队挖出Linux内核90余个长期潜伏漏洞
伊利诺伊大学香槟分校张令明老师团队的论文提出KNighter，它让大模型生成静态分析检查器，在Linux内核挖出92个长期潜伏漏洞，将LLM归纳能力沉淀为规则，带来可落地等好处。
不靠海量数据，如何精准喂养大模型？上交Data Whisperer：免训练数据选择法，10%数据逼近全量效果
上海交通大学等团队提出 Data Whisperer，首个免训练的注意力驱动数据选择框架。它利用模型自身能力打分挑数据，无需训练与人工标注，用 10% 数据让微调效果逼近全量数据，在多方面领先传统方法。