「MoE模块」共找到 381 篇相关文章
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。
这个开源 SKill，把 AI 短剧制作变成了一条可复制的工业流水线！
AI短剧圈子现开源项目shuohao - skills，是给AI编码助手用的“插件”。它将小说到可投产素材流程拆成五个模块，有清晰设计理念，每步有代码级质量检查，核心亮点多，能实现稳定生产。
让RAG真正读懂“言外之意”！新框架引入词汇多样性，刷新多项基准SOTA
ACL 2025研究提出Lexical Diversity - aware RAG (DRAG) 框架，将词汇多样性引入RAG检索与生成，解决现有方法痛点。它有两大创新模块，实验在多基准提升准确率，还将在多模型上增益，代码即将开源。
OpenAI 开源模型泄露：六大技术细节
OpenAI 可能发布的开源大模型细节泄露，包含两款模型，1200 亿参数 MoE 模型和 200 亿参数稠密模型，专注文本处理。还涉及训练技术、激活函数、上下文窗口、注意力机制及底层架构等方面的技术细节。
大模型能“原地”改参数了！字节Seed&北大新论文：测试时推理无需加层重训练
字节Seed和北大研究团队提出In - Place TTT方案，让大模型能“原地改参数”。它复用Transformer的MLP模块，解决现有TTT架构不兼容、计算效率低和优化目标不匹配问题，实验证明可提升模型长文本任务表现。
一个框架，重塑具身研发流程：Dexbotic走向具身PyTorch
开源具身智能原生框架 Dexbotic 宣布支持 RLinf 作分布式强化学习后端，打通 VLA 模型研发中「SFT 与 RL 割裂」问题。其 2.0 版实现模块化解耦与多源混训，构建开发闭环，孵化出 DM0 大模型。
AI Agent也有体检中心了？诊断级安全框架AgentDoG正式开源
上海人工智能实验室今日开源全球首个具深度诊断能力的AI智能体安全护栏框架AgentDoG。它能精准定位风险、解释决策成因。团队提出三维风险分类法，构建数据合成管道，实验表现领先，还集成归因模块。
每帧Sora级震撼！Midjourney首个视频模型登场，超逼真大片首测来袭
Midjourney首个AI视频模型V1上线，每月10美金可体验20秒。其视觉效果惊艳，能媲美Sora等，还能一键让图像动起来。成本低，提供多种模式与设置，有技术愿景，未来将完善模块。
登上NeurIPS，Genesis开创无需OCC引导的多模态生成新范式，在视频与激光雷达指标上达到SOTA水平
华中科技大学与小米汽车提出多模态图像 - 点云联合生成框架Genesis，采用两阶段架构和DataCrafter模块。在nuScenes数据集实验显示，其在视频与激光雷达指标达SOTA水平，还提升了下游感知任务效果。
集GraphRAG 和 DeepSearch于一体的智能问答系统graph-rag-agent
本项目结合GraphRAG与私域Deep Search，实现可解释、可推理的智能问答系统。亮点有从零复现GraphRAG、创新融合DeepSearch等，具备多模块功能，还有简单演示，地址https://github.com/1517005260/graph-rag-agent/blob/master/readme.md。