「Ultra - Sparse MoE架构」共找到 183 篇相关文章
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。
OpenAI 开源模型泄露：六大技术细节
OpenAI 可能发布的开源大模型细节泄露，包含两款模型，1200 亿参数 MoE 模型和 200 亿参数稠密模型，专注文本处理。还涉及训练技术、激活函数、上下文窗口、注意力机制及底层架构等方面的技术细节。
英特尔：CPU的痛就像送外卖
英特尔将优化CPU痛点比作送外卖，推出二进制优化（IBOT）技术，还升级硬件酷睿Ultra 200HX Plus。数据中心方面，英特尔DCG老大Kevork Kechichian认为Agentic AI使CPU重回舞台中央，并分享转型思路。
英伟达、英特尔和AMD芯片同台竞技：CES 2026各自都展示了怎样的实力
全球最大消费电子展CES 2026上，英伟达、英特尔和AMD发布新品，AI算力芯片竞争演变为平台架构全面战争。英伟达推Rubin计算平台，英特尔发布第三代酷睿Ultra系列，AMD展示Helios平台及相关产品。
手撕、翻滚、暴力砸地！最「扛造」的灵巧手来了
4月17日智元合作伙伴大会上，临界点AGILINK发布三款新品，包括旗舰级工业绳驱灵巧手OmniHand 3 Ultra - T、普惠型耐造小手OmniHand 3 Lite和全面焕新的具身夹爪OmniPicker 3，各有优势且兼顾量产与开源。
DeepSeek发布最新论文，5大杀手锏让大模型训练、推理暴涨
全球著名开源大模型平台DeepSeek在huggingface发布超强开源模型V3的论文，从硬件架构和模型设计双视角探讨高效训练和推理，提出DeepSeek - MoE、多头潜在注意力等创新技术，解决内存、计算效率等难题。
硬核拆解大模型，从 DeepSeek-V3 到 Kimi K2 ，一文看懂 LLM 主流架构
本文详细列举 8 个主流大语言模型，硬核拆解架构设计与革新思路，介绍架构演进趋势。如 DeepSeek-V3 的 MLA 与 MoE 技术，OLMo 2 的归一化策略，Gemma 3 的滑动窗口注意力机制等。
DeepSeek-GRPO重要性权重设计错误？详解Qwen3新强化学习算法GSPO
论文指出GRPO在大语言模型训练中不稳定，因其重要性权重设计错误易引入高方差噪声。为此提出GSPO算法，从序列维度计算梯度，解决了MoE模型RL训练的稳定性问题，在Qwen3上效率更高。
刷新3D生成上限！一键生成精细到毛发的3D资产
在高质量3D生成需求增长背景下，现有3D生成框架在兼顾效率和质量上有瓶颈。南洋理工大学等提出Ultra3D框架，采用coarse - to - fine两阶段流程，用Part Attention机制提升效率，支持高分辨率输出。
告别“云端依赖症”：AI为何要“锁”进本地硬件里？｜甲子光年
过去三年，AI产业沉浸在云端幻象，但走进现实面临诸多阻力，如物理距离、隐私、试错成本和监管等问题。下一阶段AI竞争转向算力位置争夺，英特尔酷睿Ultra系列处理器助力多行业实现本地算力部署。