「Ultra - Sparse MoE架构」共找到 183 篇相关文章
世界模型双冠王诞生！国产世界模型力压谷歌、英伟达等持续领跑
近日，Manifold AI 研发的世界模型 Worldscape 0.2 在 WorldArena 榜单夺冠，此前 WorldScape 0.1 也登顶 WorldScore。该模型参数规模小，进化靠 MoE 架构，展现国产世界模型实力。
Claude Mythos核心架构开源！22岁天才一人破解，融合DeepSeek思路
22岁初创CEO Kye Gomez以第一性原理推导出Claude Mythos核心架构，开源OpenMythos项目。该架构采用循环深度Transformer，不堆参数，循环思考16次推理，结合MoE层，参数效率翻倍。
华为曝光两大黑科技！打破推理延迟魔咒，大模型从此「秒回」
华为通过FusionSpec和OptiQuant两大技术创新，对MoE模型进行推理优化。FusionSpec依托昇腾特点，将投机推理框架耗时降至1ms；OptiQuant支持灵活量化，为大模型推理提供高性价比。
AI开源狂飙，OpenAI们慌了！GenAI大洗牌，2025趋势深度解读
2025年，ChatGPT仍领跑，但DeepSeek、Qwen等开源模型加速追赶。独立机构报告总结六大趋势，涵盖技术突破与市场格局演变，如推理模型实用化、MoE架构普及等，开源势力挑战闭源巨头。
清华刘知远团队：高质量LLM训练数据获取新方法！成本降90%，性能大提升
清华刘知远团队论文提出全新数据筛选方案，解决传统数据筛选验证慢、主观性强问题。发明‘半成品加工法’降成本，用fastText筛数据，筛出Ultra - FineWeb数据集，提升模型性能，还计划拓展到专业领域。
炸裂！谷歌I/O大会王者归来：Gemini“世界模型” 初现，搜索“换脑”，一句话制作原声电影
谷歌I/O 2025大会发布大量技术，虽Gemini 2.5 Ultra未到，但Pro有革新。还推出新模型、代理工具，多模态能力提升，搜索重塑，加入AI眼镜开发，倾尽全力发展AI生态。
AI 互动游戏的 GPT 时刻到了！谷歌Genie 3首测！太牛了！
谷歌去年发布世界模型Genie 3，支持实时生成可交互视频内容，因成本高未开放。现美国18岁以上Ultra用户可试玩，其操控延迟低、画面清晰、物理交互真实，还介绍了操作流程等。
AI PC，一场关于算力、场景与生态的远征
AI PC 市场竞争升温、格局重塑，本质是下一代计算入口争夺。英特尔通过硬件创新、生态共建等推动 AI PC 发展，在 2025 抖音商城秋上新秀展出相关产品，其酷睿 Ultra 处理器优势明显，市场呈多元竞逐态势。
如何在24GB显存里，塞下一个万亿参数的巨兽？KTransformers入选顶会SOSP
清华大学与趋境科技联合研发的KTransformers系统，可让消费级显卡跑万亿级参数模型，其论文入选SOSP 2025。该系统解决MoE模型本地部署难题，技术创新多，还与SGLang合作，提升硬件利用率。
FlashInfer集成TensorRT-LLM cubin kernel技术分析
文章以MoE模块为例，分析FlashInfer集成TensorRT-LLM的技术。探讨如何不依赖源码用其优化内核、动态加载管理CUBIN文件，介绍集成架构、源码集成技术、CUBIN动态加载系统等内容。