「LLaDA MoE v2」共找到 661 篇相关文章
4B Qwen3逆袭671B DeepSeek！字节DAPO微调方法这么猛的吗
最新模型Jan - nano引发关注，它在智能体任务上超671B的DeepSeek - V3 0528，在SimpleQA基准获80.7分。它基于Qwen3 - 4B用字节&清华DAPO微调方法。其研发团队是Menlo Research，有开源产品和长远规划。
一文看懂 TritonNext 2026：FlagOS 亮点详解、语言扩展新趋势、AI 生成更加“底层”、芯片软件生态或迎“新拐点”！
1月9日，「2026 TritonNext技术大会」召开，专家探讨AI编译器等最新解法。如林咏华介绍FlagOS v1.6应对生态难题；崔慧敏用“AI for Compiler”破芯片演进难题；上海人工智能实验室推出DLCompiler打破算子开发困境等。
Kimi K2技术报告正式发布：“保姆级”深度解析，一文读懂万亿参数智能体的所有秘密
Kimi K2技术报告发布，Moonshot团队用万亿+参数稀疏MoE架构等打造接近Claude - Opus的通用大模型。围绕训练稳定性等改进，有预训练、架构设计等多方面创新，为智能体领域提供可行路径。
Sglang 源码学习笔记（三）- 分布式和并行（以deepseek 为例）（WIP）
文章是 sglang 源码学习笔记，聚焦分布式和并行，以 deepseek 为例。介绍通信域类型，分析 ZMQ 和 torch.dist 通信，阐述 TP、DP、EP 实现，包括初始化、使用等，还涉及不同 Linear 层 TP 及 MoE 不同实现情况。
从服务器 OS 到 Agent 沙箱：腾讯云如何打通 AI Infra 的生态底座
文章指出代码生成快但执行边界缺可靠设施，腾讯云开源 Cube Sandbox 项目。它基于 MicroVM 路线，突破隔离、速度、密度等门槛，v0.2.0 版本降低部署门槛。与 OpenCloudOS 9 组合，提供全链路开源可控路径。
Qwen3.8-Flash：全新架构，更强更稳更划算
本文介绍了 Qwen3.8-Flash 多模态 MoE 模型，它原生支持 262,144 token 上下文。该模型在 Attention、Residual、Embedding 与 Optimization 四个方面系统升级，降低训练与推理成本，即将上线千问 AI 平台。还发布了 Qwen3.8-Flash-Next 开源权重。
登顶行业SOTA的多模态视频生成标杆，昆仑天工刚给开源了
昆仑天工发布的多模态视频生成模型SkyReels-V3正式开源。它能文生视频、图生视频等，效果逼真。该模型针对现有AI视频问题实现多方面技术突破，且昆仑天工在模型和产品层面均有深厚积累。
天工Skywork开始"看"小红书了，1247个帖子的图片信息被它吃透！
昆仑万维技术发布周推出Skywork Deep Research Agent v2。它整合多模态检索理解和跨模态生成能力，有信息检索、小红书Agent等功能，Office Agent也有升级，还新增积分预估等特性，邀测后将全量开放。
0.01%参数就能接近全量微调！低数据微调极致省参方案来了 | ACL'26
瑞典隆德大学与Google DeepMind团队研究大模型微调省参方案。发现低数据场景下，微调Value投影中的b(v)比b(q)或b(k)性能更好。该研究已被ACL 2026接收，集成进Hugging Face - PEFT库。
看完最新国产AI写的公众号文章，我慌了！
AI 快砸作者饭碗，智谱 GLM - 4.6V 能根据 NeurIPS 2025 最佳论文生成图文并茂的公众号文章。它还能助力学生看论文、分析财报等，可复刻网站、处理视频，在多模态评测中达同级别 SOTA。