「MoE层」共找到 452 篇相关文章
FlashAttention 完全进化史：FA-4 发布之际的技术全景回顾
文章围绕FlashAttention展开，从Attention性能瓶颈引出问题，阐述其各版本演进。FA-1实现算法突破，避免O(N²)内存；FA-2适配架构，提升性能；FA-3深度协同，实现异步；FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。
英伟达老黄收购了一家AI编程公司
英伟达刚收购AI coding初创公司Solver，该公司成立三年，专注编程AI Agent。此前英伟达收购不少降芯片成本或提供AI支持的公司，此次收购契合其构建软件生态层战略，或使AI智能体逼近软件开发核心。
最强开源Agent！Kimi K2接入Claude Code，爽翻～【喂饭级教程+实测】
上周五Kimi开源最新旗舰模型K2，它是1000B参数MoE大模型，专为Agent场景优化，API已上线且兼容多API。文章给出Kimi - K2接入Claude Code的喂饭级教程及实测，实测显示组合表现有亮点也有不足。
AMS | 西工大董戴玮、张伟伟等：求解偏微分方程的残差级联极限学习机
本文设计残差级联极限学习机（RC - ELM）缓解极限学习机（ELM）求解偏微分方程的病态问题。将多个ELM块级联，配备相同隐藏层，传递残差求解。实验显示，相比经典ELM，RC - ELM精度优势显著，误差降约4个数量级。
小红书开源大模型dots.llm1，初次出手，小有惊艳！国外网友们又炸了……
小红书hi lab团队公布首个开源大模型dots.llm1，这是142B参数的MoE模型，仅14B激活参数就能与Qwen2.5 - 72B打平。它开源力度大，训练效率高，数据处理精细，训练稳定，获国外网友高度关注。
Agent 原生开发时代到来，Google Cloud Next 26 给开发者带来了什么
Google Cloud Next 26 大会热度高涨，反映行业对 Agent 原生时代的关注。Google Cloud 展示了云产业从 Cloud Native 到 Agent Native 的三层同步转换，还推出一系列 Agent 开发和管理套件，解决开发者关键问题。此外，大会亮点 A2UI 解决交互层 Agent 化。
从傅盛的龙虾到汗青的加速主义，AIFUT大会Day1下午场总结都在这了。
AIFUT大会第一天下午场信息密度大。傅盛称龙虾是工具的AGI时刻；特效小哥008认为AI不替代人类但可能替代工作；辩论探讨教用AI能否教会；朱广翔说程序员岗位将减少，泛创造者会增加；李继刚指出人不可压缩的只剩体验；赵汗青探讨慢的东西如何存活。
8 个月营收提高 4 倍，n8n 为什么是 AI Agent 最受欢迎的搭建平台？
n8n 从工作流自动化工具升级为 AI 应用编排层，8 个月营收提 4 倍，正进行超 1 亿美元融资。它能与 AI 无缝集成、社区活跃，使用场景广，有云服务和企业级服务，在竞争中有优有劣，采用独特开源许可。
AI产业链投资大逻辑：第五集
本集围绕AI产业链算力服务层中云的故事展开，探讨在AWS等超大规模云厂商主导市场下，为何还会冒出新型AI云公司且获高估值。过去十五年云计算市场由巨头主导，2023年后，其自身算力不足使市场结构出现裂缝。
蚂蚁开源 x SGLang Meetup技术回放解读系列之面向DeepSeek系列模型的深度优化与实践
文章是对蚂蚁开源x SGLang Meetup中「蚂蚁Theta面向DeepSeek系列模型的深度优化和实践」分享的解读，详细介绍了在H20-96G上对DeepSeek系列模型推理的优化方案，包括Prefill和Decode阶段的优化、通信优化、观测诊断等，并给出了评测结果。