MoE层」共找到 451 篇相关文章

算法论文8

MoE打造DNA基础模型更强范式!人大实现seq2func全新突破

中国人民大学团队提出SPACE模型,通过引入物种感知编码器和谱系分组增强解码器,革新架构,提升了DNA基础模型性能与泛化能力,在多项测试中表现优于主流模型。

新智元
新闻资讯8

LiblibAI 母公司完成近 3 亿美元融资:AI 应用开始进入「收入说话」的阶段

近日,演语科技披露近3亿美元B+轮融资,投后估值超20亿美元。其旗下有LiblibAI、LibTV、星流等业务,已构建AI创意内容生产应用矩阵。截至2026年5月,ARR达3亿美元,收入年同比增超3000%。

AI科技评论
开源动态7

GLM-4.7-Flash无审查版发布:30B MoE模型,仅3B激活参数

GLM-4.7-Flash无审查版由HauhauCS发布,基于原版移除审查机制。采用30B - A3B混合专家架构,总参数量31B,每次前向传播仅激活约3B参数,推理快,支持200K上下文长度,有两种变体和四种量化版本。

AI工程化
算法论文8

大模型能“原地”改参数了!字节Seed&北大新论文:测试时推理无需加重训练

字节Seed和北大研究团队提出In - Place TTT方案,让大模型能“原地改参数”。它复用Transformer的MLP模块,解决现有TTT架构不兼容、计算效率低和优化目标不匹配问题,实验证明可提升模型长文本任务表现。

量子位
开源动态8

QwenLong-L1.5发布:一套配方,三大法宝,让30B MoE模型长文本推理能力媲美GPT-5

通义文档智能团队推出QwenLong - L1.5,提供长文本推理后训练“配方”,含数据合成管线、强化学习方法和智能体架构。通过三大“法宝”重塑模型能力,效果显著,相关代码已开源。

AINLPer
产品应用8

QwenLong-L1.5发布:一套配方,三大法宝,让30B MoE模型长文本推理能力媲美GPT-5

通义文档智能团队推出QwenLong - L1.5长文本推理专家,提供端到端长文本推理后训练“配方”,含数据合成管线、强化学习方法、智能体架构,在多基准测试成绩佳,代码已开源。

机器之心
开源动态8

DeepSeek倒逼vLLM升级!芯片内卷、MoE横扫千模,vLLM核心维护者独家回应:如何凭PyTorch坐稳推理“铁王座”

本文介绍了vLLM的发展,自开源后成科技公司首选推理引擎。因DeepSeek发布,团队转向其模型特性优化;还参与各芯片支持工作。vLLM靠PyTorch支持多硬件,同时拓展到多模态推理,面临竞争仍保持优势。

InfoQ
新闻资讯7

从烧光现金、裁掉一半员工,到 ARR 9 个月破亿:Replit用“全栈平台”反杀Cursor,赌赢“每都赚钱”模式

2024年初到2025年9个月内,Replit年度经常性收入从不到1000万美元破亿。其增长靠系统性战略,以AI编程代理获客,后端基础设施变现。它反映AI编程工具从编辑器进化为平台的趋势。

InfoQ
新闻资讯8

a16z 合伙人:AI 正将 10 倍工程师“降级”为 2 倍!应用已无技术护城河,未来在基础设施和业务深耕

Andreessen Horowitz (a16z) 的合伙人 Martin Casado 在对话中指出,当前AI大模型竞争格局似当年云计算大战,寡头垄断将降临。他还谈到AI对开发者、投资决策、市场格局的影响,以及对AI安全、开源等问题的看法。

AI科技大本营
7

谷歌悄悄加了个按钮,Gemini长出手脚变打工人!三巨头抢着教AI干活

谷歌悄悄为Gemini添加「Agents」入口,其将从聊天助手转变为Agent运行平台。谷歌还推出无代码/低代码的Agent Designer。此外,谷歌、Anthropic、OpenAI在编排展开竞争,焦点转向谁能让更多人用上Agent。

新智元