搜索：双预训练架构

「双预训练架构」共找到 3616 篇相关文章

从deepseek v4的受限流线型超链接mHC谈架构优化

文章围绕DeepSeek v4的受限流线型超链接mHC探讨架构优化。指出过去十年深度学习重扩展层内计算，忽视层间通信。介绍多种层间通信改进方法，提出用检索替代累加，还提及深度注意力机制及混合深度注意力的成果。

今天凌晨，DeepSeek在GitHub开源新论文与模块Engram，论文提出“查—算分离”机制，通过可扩展查找记忆结构提升模型表现。Engram将记忆与计算职责分离，或成V4核心技术，获网友肯定。

程序员给智能体套在线强化学习系统MetaClaw，把用户与AI对话变训练数据。它基于Kimi - 2.5，用SkillRL框架，不依赖本地GPU，训练交Tinker云平台，三步即可上手。

阿里云智能集团瓴羊高级技术专家王璟尧，介绍阿里云 Quick BI 从传统 BI 到 AI 驱动的智能 BI 的进化，解析领域大模型与 BI 引擎协同设计等技术权衡，为行业提供可复用技术范式。

近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。

文章围绕大语言模型后训练阶段的强化学习算法展开。介绍了OpenAI的RLHF、DeepSeek的GRPO，重点指出Qwen团队发现GRPO有稳定性问题，会致模型崩溃，进而提出新算法GSPO，实验显示其效率和可扩展性更佳。

文章介绍蚂蚁多模态统一框架Ming - Omni，它可统一处理图像、文本等多模态数据。该框架解决了多模态训练中模态表示差异、收敛速度不一致等问题，采用分阶段预训练，能用于图像、音频生成及多模态交互。

新智元报道，梁文锋署名的DeepSeek新论文提出全新Engram模块，解决Transformer记忆难题。论文联手北大提出与MoE互补的“条件记忆”稀疏轴，通过Engram模块实现近似O(1)的确定性知识查找，或成稀疏LLM主流路线，下一代V4可能集成该方法。

本文介绍蚂蚁消金前端团队打造的Multi - Agent智能体平台“天工万象”。阐述其技术实践，对比多Agent与统一型Agent、ReAct范式与固定工作流优劣，还介绍专业智能体建设，分享开发中的思考与经验。

该论文提出强化学习场景下的启发式数据合成流程（SwS），利用模型自我感知弱点驱动自动化问题生成，弥补推理缺陷。对其扩展后适应性更广，在多基准测试集和模型上验证有效，性能提升显著。