「高稀疏度MoE结构」共找到 735 篇相关文章
AI没有创造力吗？结构性约束与跨模态张力涌现AI创造力
法国索邦大学研究成果揭开AI创造力从受限领域生成模型中涌现的事实。研究转换视角关注生成过程结构条件，提出含四维度的概念框架解构创造力，通过实验证明多模态约束能催生AI新颖形式。
Anthropic 再发长文：首次详细揭秘Agent的评估全过程「Claude code开发过程的经验总结」
Anthropic在Claude Code等开发及与客户合作中总结出AI Agent评估方法。文章介绍评估基本结构、构建原因、评分器类型、不同Agent评估法、应对不确定性指标、构建路线图及与其他方法协同方式。
超越AlphaFold 3！ProRNA3D搞定RNA蛋白互作，攻克癌症、病毒有了新武器
弗吉尼亚理工Debswapna Bhattacharya团队开源AI工具ProRNA3D - single，能仅靠单条蛋白质和RNA序列预测二者复合物三维结构，超越AlphaFold 3等工具，基于生物语言模型，有诸多应用价值，也有改进方向。
英伟达开源全新大模型：黄仁勋不想只「卖铲子」
2025年底英伟达宣布开源全新模型家族Nemotron 3，含Nano、Super和Ultra。它融合Mamba、Transformer和MoE技术，有诸多创新。这不仅是产品更新，更是战略突袭，标志着英伟达想构建AI闭环开放生态。
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。
腾讯重磅开源：端到端文档转换VLM，中英文错误率双料最佳！
腾讯开源端到端文档转换视觉模型POINTS - Reader，可将文档图片转结构化文本。它基于POINTS1.5架构，支持中英文。在OmniDocBench基准上，中英文错误率暂列最佳，具零后处理简单等亮点。
基于Agent的SGLang Diffusion Kernel优化实践：Qwen-Image、FLUX.2和视频模型
本文记录基于Agent完成Qwen-Image、FLUX.2、Wan和SANA Video优化的过程，包括定位问题、写Kernel及遇到的坑。介绍SGLang Diffusion Kernel结构，分析数值敏感原因，展示各模型优化实践、无收益实验及验证流程。
AI下半场的战场，从Agent记忆体正式打响
OpenClaw开源项目爆火，标志AI进入下半场走向真实应用。关键在于解决AI在现实中持续干活的问题，核心是Agent Memory。论文梳理该赛道，指出其是系统级记忆体结构框架，未来关键在memory策略可学习。
OpenAI 开源模型泄露：六大技术细节
OpenAI 可能发布的开源大模型细节泄露，包含两款模型，1200 亿参数 MoE 模型和 200 亿参数稠密模型，专注文本处理。还涉及训练技术、激活函数、上下文窗口、注意力机制及底层架构等方面的技术细节。
清华-腾讯联手：音频 - 视觉多模态任务统一框架
Crab是人大、清华和腾讯合作论文提出的模型，目标是高效一统多模态场景理解任务。它解决了音频 - 视觉理解模型任务干扰、合作显式化不足等难点，通过构建数据集、设计结构和统一架构实现多任务合作。