搜索：稀疏混合专家架构

「稀疏混合专家架构」共找到 754 篇相关文章

DeepSeek深夜更新后自曝：我是V4（？！）

DeepSeek网页端深夜大更新，推出「快速模式」和「专家模式」，还有「视觉模型」开启灰度测试。虽官方未说明，但网友推测专家模式可能是V4或V4 Lite，完整版V4或许不远。

新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。

GitHub代码确认GLM - 5架构细节，它采用DeepSeek - V3/V3.2架构，含稀疏注意力和多Token预测，参数量745B。OpenRouter上神秘「Pony Alpha」被指是其测试版，受消息影响智谱AI港股两日涨60%。

TTS技术从单一合成进化到多模态表达，但传统模型在跨语言/方言混合场景有不足，商业工具费用高且不开源，开源方案训练数据少。阿里推出Qwen3 - TTS，实现人类级自然度和表现力，功能强大，应用场景多。

上海AI Lab的OpenDataLab团队通过大规模实验剖析可验证强化学习（RLVR）在多领域推理中的机制，发现逻辑与数学数据相互支持、代码推理有跨领域混合效应等，为构建AI推理模型提供关键发现。

美团龙猫LongCat系列发布全新稀疏注意力机制LoZA，重点解决长文本任务难题。它在MLA机制基础改造，计算复杂度降至线性，处理128K上下文解码快10倍，性能不缩水，后续还计划支持动态稀疏比例。

为打造ASI，Meta、贝索斯等狂砸百亿招聘专家当AI的「老师」。Meta成立「超级智能」AI实验室四处挖人，其「超级智能」成员名单里一半本科毕业于国内大学。同时，AI数据标注行业产业升级，专家获加薪。

今天推荐agency-agents-zh库，它是agency-agents深度汉化版，有211个精选Agent，适配国内生态。需注意，skill并非越多越好，按需选择，避免浪费资源和输出无效结果。

近期，全球爆火的 Agent 私人助手 OpenClaw 接连更新，其长期记忆能力获关注。谷歌 DeepMind 联合加州大学伯克利分校提出 LoGeR 架构，将 3D 重建扩展到极长序列，在多数据集上表现超越先前方法。

新推出的PRBench基准可测AI在金融和法律领域表现。它有19356条专家评估准则，是该领域最大公开基准。顶尖大模型在困难子集得分低，还独创经济路径分析维度，约30%任务为多轮对话，揭示了AI在专业领域的不足。