「MoE模块」共找到 381 篇相关文章
DeepSeek发布最新论文，5大杀手锏让大模型训练、推理暴涨
全球著名开源大模型平台DeepSeek在huggingface发布超强开源模型V3的论文，从硬件架构和模型设计双视角探讨高效训练和推理，提出DeepSeek - MoE、多头潜在注意力等创新技术，解决内存、计算效率等难题。
估值840亿AI实验室再放大招，他们要给大模型戴上「紧箍咒」
新智元报道，OpenAI前CTO创办的Thinking Machines Lab发布研究「模块流形」，将传统数值修正转为「预防式」约束优化。它提出新范式，为训练大模型提供新思路，还介绍了流形优化器及相关算法。
硅光，到底是个啥？
硅光是光通信热门概念，被认为是光通信未来。文章介绍其定义、光模块架构原理、优点及应用场景，指出虽有短板和产业标准化问题，但前景广阔，国内企业也在加速追赶。
硬核拆解大模型，从 DeepSeek-V3 到 Kimi K2 ，一文看懂 LLM 主流架构
本文详细列举 8 个主流大语言模型，硬核拆解架构设计与革新思路，介绍架构演进趋势。如 DeepSeek-V3 的 MLA 与 MoE 技术，OLMo 2 的归一化策略，Gemma 3 的滑动窗口注意力机制等。
全球首个世界统一模型发布，机器人家庭成员来了！
自变量机器人发布全球首个世界统一模型架构的具身智能基础模型WALL - B，它打通视觉、听觉等模块，让机器人理解物理世界。还让机器人拥有多能力，通过真实家庭数据形成数据飞轮，助力其融入家庭。
DeepSeek-GRPO重要性权重设计错误？详解Qwen3新强化学习算法GSPO
论文指出GRPO在大语言模型训练中不稳定，因其重要性权重设计错误易引入高方差噪声。为此提出GSPO算法，从序列维度计算梯度，解决了MoE模型RL训练的稳定性问题，在Qwen3上效率更高。
实战·Agentic 上下文工程（下）：实现一个可自我学习与进化的智能体原型
文章参考ACE论文架构与提示词设计，实现可自我学习与进化的ACE智能体原型。介绍整体架构、各模块实现逻辑、工作流组装测试，也指出当前问题如LLM表现波动大等，并给出改进方向。
金属探伤微小缺陷：YOLOv11 改进，漏检率从 54% 降低到 19%
工厂质检工作累且易出错，用摄像头加AI检测，需模型在复杂车间环境识别微小缺陷。论文对YOLOv11改进，插入三个即插即用模块，降低漏检率、提升精度，还做了公平实验，公开数据。
推理路径的动态调控：让大模型学会“恰到好处”的思考
当前大模型推理路径存在冗余问题，本文提出测试时提示干预框架PI（π），通过《When/How/Which》三模块协同，将人类专家经验融入推理过程，在多个STEM基准测试中缩减推理步骤、提升准确率。
图像编辑太慢太粗糙？全新开源自回归模型实现精准秒级修改 | 智象未来
AI图像编辑中扩散模型有两大难题，智象未来团队提出全新自回归图像编辑框架VAREdit，引入视觉自回归架构，提升编辑精准度与速度。模型和代码已开源，还提出SAR模块优化，在基准测试表现出色。