算法论文7

deepseek V4算法工程技术大揭秘

Agent的潜意识2026-05-20

AI 摘要

樱园的玻尔兹曼机：当前大模型训练不充分，deepseek V4从算法、工程、后训练多方面优化，如采用混合注意力机制、细粒度专家并行、新训练范式等，提升模型性能。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

斯坦福教授直播训练535B大模型

斯坦福教授Percy Liang宣布由Marin开放实验室启动训练Marin 535B - A23B模型，全程公开。过去大模型训练像“黑箱”，此次尝试让训练可观察、可讨论、可协作，引发网友关注。

智谱发布GLM-5.3，743B参数模型，编程能力达开源SOTA。网络安全能力涌现，基准得分是GLM-5.2两倍多。全部提升来自后训练缩放，还自研Z.ai Code Bench评估，安全评估加固后权重将开源。

本文是对火思动力创始人Kevin Ding的专访。他指出当下Agent会工作但不会成长，而如今市场需求、技术条件和数据供给成熟，可开展持续学习。他还阐述了后训练、产品应用、商业化等方面观点。

2026年7月ICML大会上，小米MiMo团队负责人罗福莉介绍MiMo - V2.5系列。该系列跳出传统思路，从架构、训练、推理协同设计，实现“聪明、快速、便宜”，如预训练降成本、后训练有硬核算法、推理加速达1000 TPS。