「Ultra - Sparse MoE架构」共找到 183 篇相关文章
谷歌深夜放出 IMO 金牌模型，多项测试力压 Grok 4、OpenAI o3！网友评论两极分化
昨夜谷歌向 Google AI Ultra 订阅用户推 Deep Think 功能，Gemini 2.5 Deep Think 模型获 IMO 金牌。它是多智能体模型，通过并行思维输出答案，在多领域及测试中表现佳，但网友评价不一。
重磅！谷歌开放世界模型Genie 3试用：AI实时生成可玩世界，人人都能创造“我的世界”
谷歌开放世界模型Genie 3实验性研究原型Project Genie试用，美国18岁以上Google AI Ultra订阅用户可体验，能创建、探索和重混互动世界，不过Genie 3是早期研究模型，有待改进之处。
QQ音乐你变了，竟能免费在AI PC上原创一首《大东北》
QQ音乐在AI PC上可免费AI作歌，只需输入灵感，几分钟就能创作出原创歌曲。AI PC改变应用生态，降低创作门槛，更安全自由。背后是英特尔酷睿Ultra处理器革新架构，还发起加速计划。
华为+DeepSeek，推理性能创新高！技术报告也公布出来了
华为昇腾在部署超大规模MoE时推理性能创新高，全面超越英伟达Hopper架构。其采用‘以数学补物理’方式，还将全面开源。团队从多方面优化，在不同硬件上取得优异性能，本周还将举办技术披露周。
不换GPU，性能飙升2.8倍！英伟达用软件暴打摩尔定律
2026年1月8日，英伟达官网披露，基于Blackwell架构的推理软件栈升级，让混合专家模型（MoE）推理效率迎「阶跃式」突破，单GPU吞吐飙升2.8倍，显著降低推理成本。其通过软件针对性升级发挥硬件潜力，还进行多项优化。
一个模型超了DeepSeek R1、V3，参数671B，成本不到350万美元
Deep Cogito 是旧金山 AI 初创公司，开源四款混合推理模型。最大 671B MoE 模型性能超 DeepSeek v3 等，推理链比 DeepSeek R1 短 60%，训练成本不到 350 万美元。核心方法是迭代蒸馏与增强。
DeepSeek V4正式版太便宜辣！5毛钱做出3D射击游戏，网友直呼绷不住
DeepSeek V4 Flash正式版API上线公测，其价格便宜得离谱，如0.07美元就能制作第一人称3D射击游戏。与Claude Opus 5、GPT - 5.6等对比，功能相近但成本低很多。它靠MoE架构等降低成本，还提升了性能。
Kimi K2技术报告正式发布：“保姆级”深度解析，一文读懂万亿参数智能体的所有秘密
Kimi K2技术报告发布，Moonshot团队用万亿+参数稀疏MoE架构等打造接近Claude - Opus的通用大模型。围绕训练稳定性等改进，有预训练、架构设计等多方面创新，为智能体领域提供可行路径。
Sglang 源码学习笔记（三）- 分布式和并行（以deepseek 为例）（WIP）
文章是 sglang 源码学习笔记，聚焦分布式和并行，以 deepseek 为例。介绍通信域类型，分析 ZMQ 和 torch.dist 通信，阐述 TP、DP、EP 实现，包括初始化、使用等，还涉及不同 Linear 层 TP 及 MoE 不同实现情况。
Qwen3.8-Flash：全新架构，更强更稳更划算
本文介绍了 Qwen3.8-Flash 多模态 MoE 模型，它原生支持 262,144 token 上下文。该模型在 Attention、Residual、Embedding 与 Optimization 四个方面系统升级，降低训练与推理成本，即将上线千问 AI 平台。还发布了 Qwen3.8-Flash-Next 开源权重。