「高稀疏度MoE结构」共找到 712 篇相关文章
快9倍还更清晰？Direct3D-S2一键解锁高效3D生成
在高分辨率三维形状生成中，传统方式有计算与内存瓶颈。南京大学提出Direct3D - S2框架，基于稀疏体积构建，有空间稀疏注意力机制，加速计算，还引入统一格式VAE，生成质量领先，训练成本更低。
2025 年最全面的 LLM 架构技术解析【长文】
Sebastian Raschka更新「大型LLM架构对比」长文，解析2025年LLM架构发展。介绍了如DeepSeek V3、OLMo 2、Gemma 3等模型架构特点，像DeepSeek V3用MLA和MoE提升效率，还探讨线性注意力复兴等趋势。
第十一章 Deep Agents 实战——数据分析与报告生成
本章介绍构建营销内容 Agent，能分析产品数据、生成营销文案等。核心技术有结构化输出、多 Skill 水平组合、模拟数据分析。还对比传统营销与 Agent 流程，展示结构化输出优势及数据驱动决策方法。
攻克大模型训推差异难题，蚂蚁开源新一代推理模型Ring-flash-2.0
9月19日，蚂蚁百灵大模型团队开源新一代推理模型Ring-flash-2.0，独创棒冰算法解决训推差异难题，实现稳定训练。该模型仅激活6.1B参数就能打平40B Dense模型性能，降低推理成本。
大模型如何准确读懂图表？微软亚研院教它“看、动手、推理”
多模态大模型处理结构化图像有误差放大、推理难等问题。微软亚洲研究院等提出PixelCraft，以高保真图像处理与非线性多智能体推理为支柱，提升结构化图像理解性能，在多基准上有增益。
华为超树HTP：不写示例、不调PDDL，AI规划约束通过率飙升62.6%
文章介绍华为超树HTP，它是完全自主、可泛化的推理新范式。能让LLM在超树结构上完成规划，不依赖人工示例和外部规划器，在复杂规划benchmark上实现SOTA准确率并降低token成本，还阐述其原理、创新点及应用实例。
MinerU又开源了！这次专治OCR跨页失忆症
文档解析领域，MinerU团队开源了专门给OCR结果做“后处理”的4B小模型MinerU - Popo。它能把碎成一页一页的OCR结果重新拼成文档级结构，解决了当前OCR跨页逻辑断裂问题，且效果和成本优势突出。
AI 3 秒给你一本书的摘要，我为什么还要花 10 小时读完
本文探讨AI时代读书投入产出比变化。指出很多书不必读完，印刷术与AI影响不同，AI降低加工成本，但认知成本省不掉。读书收益分信息和结构两部分，结构无法外包，选书能力也更重要。
企业软件底层逻辑脱胎换骨：从席位订阅到决策订阅，下一个万亿公司属于这类玩家
大模型落地进入深水区，企业级软件底层逻辑发生“脱胎换骨”变化。以特赞提出的GEA架构为例，企业软件竞争从模型能力转向认知结构，价值结构、引力中心等都在改变，软件订阅也从席位转向决策。
万亿参数狂欢！一文刷爆2025年七大顶流大模型架构
文章深入剖析2025年顶级开源模型的创新技术，介绍了DeepSeek V3/R1、Kimi 2、Qwen3等七大顶流大模型架构，揭示滑动窗口注意力、MoE和NoPE如何重塑效率与性能。