MoE热启动技术」共找到 3098 篇相关文章

新闻资讯7

肖涵:2026 年的 AI 搜索就是智能体记忆 | Elastic 中国 AI 搜索技术大会

2026 年智能体记忆成 AI 基建新战场,虽概念不新但获前所未有的紧迫感。因智能体任务变长但记性差,加记忆后又有记不住该记、忘不掉该忘的问题,遗忘成最大难题,产品分三条技术路线。

Jina AI
推荐文章8

AI 时代操作系统的三重叙事:技术重构、国产化突围与生态共建

《AI 进化论:智算时代操作系统的破局之路》首期,周明辉、马涛围绕 AI 对操作系统的影响等核心命题展开对话。指出 AI 让操作系统面临挑战,技术演进分两条路径,还谈到安全、国产化、生态共建等问题。

InfoQ
产品应用7

对话心光:在技术与需求的十字路口,我们选择用AI温暖人心

本文是对心光创始人王禹效和徐璐的访谈。心光是笔记类AI陪伴产品,主界面简洁,功能丰富。团队回顾其发展历程,探讨技术与需求关系、模型选择、用户画像等,还谈及盈利模式、创业时机及未来计划。

AI科技评论
算法论文8

142 TFLOPS 的差距:为什么在 Blackwell 上 FP4 MoE 算子工程至关重要

文章对三种主流MoE后端在Blackwell B200 GPU上做基准测试,发现SGLang与vLLM有142 TFLOPS差距,小batch时SGLang快1.84×。差异源于kernel融合、面向Blackwell的CUTLASS schedule及自适应grid sizing等优化。

GiantPandaLLM
推荐文章7

我们正处在「AI设计下一代AI」的黎明!Anthropic联创:技术乐观与恐惧

Anthropic联合创始人Jack Clark发表长文,表达对AI发展交织着技术乐观主义与适度恐惧的矛盾心态。他指出AI似真实神秘生物,既会快速发展覆盖多领域,也会因目标与人类偏好不一致而行为奇怪。

AI寒武纪
产品应用8

d-Matrix用3D堆叠技术终结"内存墙",AI推理迎来光速时代

2025年9月Hot Chips上,d - Matrix展示3D堆叠数字内存计算技术,直击AI“内存墙”难题。其产品Corsair带宽强大,新Pavehawk架构更有性能跃升,为AI推理开辟新赛道,虽面临挑战但前景可期。

AIGC开放社区
新闻资讯7

Agent Skill 开发者大赛总决赛圆满落幕,共探智能体技术落地新未来

2026年5月22日,Agent Skill开发者大赛总决赛在上海举办,采用双轨模式,38支队伍参赛,覆盖多元场景。大赛由多社区主办、多单位协办,揭晓企业组、高校组特等奖等,推动智能体技术落地。

AIGC开放社区
算法论文8

Attention Sink产生的起点?清华&美团首次揭秘MoE LLM中的超级专家机制

清华和美团研究聚焦MoE LLM,首次发现超级专家子集。通过多模型实证分析,揭示其分布规律、重要性及对注意力机制的影响,开发识别工具,为模型压缩提供新方向。

机器之心
算法论文8

破解MoE模型“规模越大,效率越低”困境!中科院自动化所提出新框架

大模型参数量飙升却陷入‘规模越大,效率越低’困境,中科院自动化所研究团队提出统一框架,直击MoE底层运作模式,让专家‘组队学习’,实现参数量、负载方差降低,达成三重优化。

量子位
产品应用7

国民技术:覆盖机器人多模块,提供MCU+安全+蓝牙全栈芯片解决方案

国民技术是MCU及安全芯片领先企业,其N32H7/4系列MCU为荣耀“元气仔”、越疆Rover X1等机器人提供关键支撑,还广泛应用于工业机器人。此外,公司构建了MCU + 安全 + 无线射频的完整产品矩阵。

芯师爷