「MoE热启动技术」共找到 3098 篇相关文章
DeepSeek 模型技术之旅:从 V3 到 V3.2
本文深入剖析了 DeepSeek 模型从 V3 到 V3.2 的技术演进,对比了基座与推理模型,介绍了架构、训练方法变化,如 V3.2 结合 MLA 与 DSA,更新奖励和 GRPO 算法,还提及 V3.2-Speciale 扩展思考特性。
首创郎园聚焦AI视听|北京AIGC视听产业创新中心启动!
8月19日,北京AIGC视听产业创新中心启用。朝阳区发布“政策服务包”,首创郎园公布“六大服务平台”,联合推出数据交易平台。此外,还发布人才计划、揭牌产教融合实验室,启动测评季活动。
跳过88%专家,保住97%性能!MoE推理的正确玩法| CVPR’26
多模态大模型走向大规模,MoE架构虽降低计算开销,但推理成本仍高。香港科技大学等团队提出MoDES,它是training - free动态专家跳过框架,能跳过88%专家还保留97%性能,推理速度提升2倍。
李飞飞最新播客:AI 是一项文明级技术,以人为本是关键
AI教母李飞飞在High Signal播客指出AI是文明级技术,分享构建以人为本AI的见解,涵盖研究动机、好奇心作用、AI同心圆层级等话题,还强调空间智能重要性,给出AI发展建议。
我在618主场,和3位顶尖技术博士聊了聊
本文讲述了作者在618与京东三位技术博士的交流。长林主导同品判别系统优化,采用模型蒸馏和数据筛选提升效率;星衍负责物流机械臂项目,强调打透场景;初雪专注语音识别,提升识别准确率和探索创新方向。京东还推出TGT计划吸引人才。
视远·正心明智——机器之心2025年度AI榜单正式启动
2025年人工智能浪潮奔涌,大模型快速迭代,催生新应用形态,中国AI发展精彩。机器之心精心策划2025年度榜单,涵盖最强技术实力企业等多个类别,有意企业可扫码申报。
Moonshot AI发布Kimi Linear技术报告,采用混合线形注意力架构
Moonshot AI在Hugging Face发布Kimi Linear技术报告,该48B参数模型采用混合线性注意力架构,称超越传统全注意力机制。官方数据体现其优势,模型已开源,社区反应不一,MiniMax则回归全注意力架构。
故障率降低100倍,微软突破性技术破解AI算力浪费大难题
在AI数据中心,网络链路高故障率制约算力释放。微软在“ACM SIGCOMM 2025”大会公布MOSAIC技术,将链路故障率降100倍,实现50米长距传输、最高68%功耗降低,为大规模AI集群提供支撑。
中国AI Agent产业化参考范本:斑马口语攻克的四大技术难关
2025年AI产业转折,通用大模型落地难,垂直场景成关键。斑马口语作为垂直落地的AI Agent,突破实时交互、语音识别、内容适龄、多模态呈现四大技术难关,为中国AI Agent产业化提供范本。
彩讯股份 CEO 白琳:企业级AI正从技术热潮走向系统化落地
1月31日彩讯股份发布《企业级AI应用白皮书》,CEO白琳接受采访。指出企业级AI正从技术驱动转向应用落地,面临系统性挑战,白皮书梳理发展阶段、痛点与路径,还介绍了‘1+1+N’策略等。