超节点计算」共找到 2735 篇相关文章

算法论文7

从deepseek v4的受限流线型链接mHC谈架构优化

文章围绕DeepSeek v4的受限流线型链接mHC探讨架构优化。指出过去十年深度学习重扩展层内计算,忽视层间通信。介绍多种层间通信改进方法,提出用检索替代累加,还提及深度注意力机制及混合深度注意力的成果。

Agent的潜意识
开源动态8

Transformer 中的专家混合模型 (MoE)

文章介绍Transformer中专家混合模型(MoE),它能解决稠密模型扩展瓶颈。阐述其优势,如计算高效、适合并行等,还介绍在transformers库中支持稀疏架构的演进,包括权重加载重构、专家执行后端、专家并行及训练方案。

Hugging Face
新闻资讯8

神秘爆款模型被小米认领!雷军直言过马斯克 xAI Grok,罗福莉透露MiMo-V2-Pro将开源

小米发布 MiMo-V2 家族三款新模型,确认 Hunter Alpha 是 MiMo-V2-Pro 早期版本。雷军称其马斯克 Grok,罗福莉透露模型稳定后将开源。MiMo-V2-Pro 适用于 Agent 场景,Omni 关注全模态交互,TTS 面向语音生成。

InfoQ
推荐文章7

Dario Amodei真的很焦虑...

文章围绕Dario Amodei的采访展开,探讨AI多方面问题。他坚信计算要素假说,认为RL与预训练有相似规模化现象;预计一两年编码达AGI,十年内信心90%;谈AI盈利、算力采购、应用扩散等,还提及机器人革命和AGI定价。

AI寒武纪
8

老黄亲自打钱!马斯克一夜狂融1400亿,百万GPU豪赌AGI终局

马斯克的xAI获200亿美元E轮融资,英伟达等参投。xAI估值逼近OpenAI,手握百万GPU,Grok 5在训。马斯克称2026年AGI降临,AI将冲击就业,xAI有望成谷歌对手,不过Grok也陷入‘脱衣’风波。

新智元
推荐文章7

【博客转载】CUDA Reduction

文章来自Lei Mao,介绍CUDA归约操作。先阐述归约操作在并行计算中的常见性,接着实现两个批量归约求和kernel,还给出构建和运行示例的命令及结果。最后探讨大数组归约求和的方法及性能影响。

GiantPandaLLM
新闻资讯7

AI 写代码太烧钱了:Copilot、Claude 一起涨价,不如把程序员请回来?

GitHub与Anthropic几乎同时调整AI写代码收费模式,GitHub Copilot按使用量计费,Claude Code限制Opus模型访问。AI公司此前靠低价扩张,如今成本压力大,将成本转嫁到用户,而很多token被浪费,AI使用成本可能程序员。

InfoQ
开源动态8

Qwen3-ASR开源:够稳定,能流式,多语言!

今日正式开源Qwen3-ASR系列模型,含两个语音识别与一个语音强制对齐模型,支持多语种。依托创新技术实现精准稳定识别,1.7B模型多场景达SOTA,0.6B兼顾性能效率,强制对齐模型精度传统模型。

千问Qwen
算法论文8

Self-Forcing++:让自回归视频生成模型突破 4 分钟时长极限

加州大学洛杉矶分校与字节Seed等团队联合完成Self-Forcing++,让自回归视频生成模型突破4分钟时长极限。它解决传统模型架构缺陷,经三步技术实现稳定长视频生成,实验基线,但仍有长时记忆缺失等问题。

机器之心
开源动态8

港科大(广州)联合腾讯AI平台部开源VibeWorlding,3D世界构建迎来Vibe Coding时刻?

香港科技大学(广州)联合腾讯AI平台部提出VibeWorlding,是可通过多轮对话等自主构建和编辑交互式3D世界的多模态智能体框架。团队开源多项数据,其模型经强化学习后表现GPT - 5.5等。

机器之心