超稀疏 MoE」共找到 2275 篇相关文章

新闻资讯7

特斯拉Dojo算团队突然解散!20人骨干被老领导打包带走

特斯拉曾为Dojo项目投入10亿美元,虽有诸多规划,但2025财报不再提及,项目停滞。现Dojo团队解散,前负责人创办DensityAI,约20名成员加入,剩余员工将内部转岗。

量子位
新闻资讯7

商汤医疗再获5亿元融资,估值突破10亿美元

商汤医疗年初完成5亿战略融资,估值破10亿美元。其走医疗世界模型路线,构建独特产品迭代体系,与500家医院、多家药企及器械企业合作,推进全球化布局。

量子位
新闻资讯8

喂饱OpenClaw!北大中科院95后打造星际算,硬刚马斯克

中科天算与炎和科技联合宣布太空算原型系统发布,完成太空算力与钙钛矿能源系统联调。全球算力需求爆发,地面算受限,太空成核心战场,我国此次突破彰显创新魄力。

新智元
算法论文8

DeepSeek开源大模型记忆模块!梁文锋署名新论文,下一代稀疏模型提前剧透

DeepSeek最新论文给Transformer加上“条件记忆”,补上原生知识查找机制。梁文锋署名,与北大团队合作。提出全新范式及Engram模块,解决传统N - gram问题,研究稀疏性分配,验证推理能力提升,兼顾工程优化。

量子位
产品应用8

MoE推理「王炸」组合:昇腾×盘古让推理性能狂飙6-8倍

在通往AGI进程中,MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型,经多方面优化,推理性能提升6 - 8倍。还采用多种策略和算法,在昇腾不同平台展现卓越性能,为大模型落地提供支撑。

机器之心
新闻资讯7

对话越疆刘培:春晚隐藏具身选手,却是百亿市值大玩家

今年春晚,越疆科技的六轴协作机器人亮相。创始人刘培接受专访,披露组建具身智能团队细节。越疆科技目前市值161亿,刘培以50亿财富登胡润百富榜。他分享创业历程、具身智能布局及对行业看法。

量子位
8

全球首个AI Agent操作系统FlowithOS跑分Atlas,网友:它「杀死」了比赛

AI应用初创企业Flowith推出全球首款专为AI Agent打造的操作系统FlowithOS。它能改写交互方式,功能AI浏览器,跑分竞品,还具记忆能力,适配多系统,已公测,或引发“AI操作系统”竞争。

机器之心
产品应用7

让AI真正懂数据:猫Matra项目中的AI知识库建设之路

文章聚焦猫Matra项目的AI知识库建设。猫数据体系庞大但有治理难题,促使Matra项目诞生,旨在实现智能取数。文中详述知识库设计、实践及效果,还提及未来在准确性、保鲜性和能力拓展上的规划。

阿里云开发者
开源动态8

MetaShuffling:Meta的Fused MoE kernel工程方案,更激进的Kernel优化和尽量避免Padding

文章介绍Meta的Fused MoE kernel工程方案MetaShuffling,可高效部署Llama 4模型。它处理MoE推理挑战,介绍多种token选择路由方案,阐述运行时设计、不同并行化方式及优化思路,还展示性能测试与Trace分析。

GiantPandaLLM
开源动态8

媲美DeepSeek!腾讯开源新版混元模型:AI Agent强化,30种智能体指令

腾讯开源混元大模型最新版本Hunyuan - A13B,为专家混合模型,有800亿参数,130亿激活。支持快慢思考模式,针对AI Agent强化,设计30种智能体指令。测试成绩DeepSeek - R1等,架构和训练有优化。

AIGC开放社区