「高稀疏度MoE结构」共找到 735 篇相关文章
SIGIR 2025 | 视频检索新范式！北邮、北大等联合提出AV-NAS：首个音视频哈希搜索架构，让Mamba与Transformer自动“组队”
北邮、北大等团队提出 AV-NAS，在多模态视频哈希领域引入 NAS，构建含 Transformer 与 Mamba 的统一搜索空间。该方法能自动发现最优跨模态融合机制，揭示音频时序建模中“CNN + FFN”结构更优，代码已开源。
打破显存墙：谢赛宁团队提出CLM，单卡RTX 4090「撬动」1亿高斯点
3D Gaussian Splatting (3DGS) 是流行的新视角合成方法，但显存容量限制其应用于大型复杂场景。谢赛宁团队提出 CLM 系统，基于 3DGS 稀疏性和空间局部性，减少通信开销，可在单卡 RTX 4090 渲染大型场景。
智能PPT生成系统
MultiAgentPPT是基于A2A + MCP + ADK的多智能体系统，能流式并发生成高质量PPT。它通过多智能体协作，从大纲生成到内容汇总，提高效率与准确性，还介绍了使用界面、项目结构、快速开始步骤等。
CuteDSL-2: 基本操作
文章为Cute - DSL第二篇，整理官方notebook介绍基本操作。涵盖数据类型、张量、结构体等基本操作，还介绍了控制流（For、If - Else、While循环等）及TensorSSA的相关操作，如LD/ST、运算、切片等。
FlashInfer集成TensorRT-LLM cubin kernel技术分析
文章以MoE模块为例，分析FlashInfer集成TensorRT-LLM的技术。探讨如何不依赖源码用其优化内核、动态加载管理CUBIN文件，介绍集成架构、源码集成技术、CUBIN动态加载系统等内容。
当模型成为公共基础设施，特赞如何架构企业级 Agentic AI？
当大模型成公共基础设施，企业需构建围绕业务结构的智能系统架构。特赞提出的 GEA 企业级智能体架构体系，围绕企业业务运行结构设计，能让智能体参与企业经营判断。
跨层压缩隐藏状态同时加速TTFT和压缩KV cache!
论文 UNCOMP 被 EMNLP 2025 主会接收，提出高效推理框架，用截断矩阵熵解释 LLM 稀疏化，据此设计 UNCOMP 框架，通过压缩隐藏状态优化 KV Cache，实现计算与内存联合优化，实验效果显著。
刚刚，Anthropic分享了他们在AI Agents评估的最佳实践
Anthropic发布blog《揭秘AI Agents评估》，指出良好评估能助团队信心发布AI智能体，介绍评估结构、构建原因、评估方法、从零到一的路线图，还提到评估需与其他方法配合，全面了解智能体性能。
干掉 90% 的 BI 工程师：自动生成 SQL、洞察、预测，连图表都帮你画好
介绍了基于LLM和RAG的结构化数据问答系统，它能将查询转化为SQL语句执行，生成数据图表及分析。其看板用法新颖，可进一步分析、预测，免去大部分BI工作，对非技术分析人员友好。
刚刚，DeepSeek 突发梁文峰署名新论文：V4 新架构提前曝光？
今天凌晨，DeepSeek在其GitHub官方仓库开源了新论文与模块Engram。该论文提出“查—算分离”机制，通过引入可扩展的查找记忆结构，在等参数、等算力条件下提升模型表现，代码与论文全文均已开源。