「混合架构模型」共找到 8550 篇相关文章
英伟达官方推理指南来了！6倍无损加速，最优解全是华人写的
9月2日，英伟达技术博客上线《用投机解码做AI模型协同设计》，给出推理加速选型表。列入指南的核心方案多由华人团队主导，介绍了从外置草稿模型到n - gram查表法等方案，还提到硬件常数对模型架构的约束。
The Batch: 894 | 面向生物医学的多模态模型
过去几年联合推理模型进展快，但生物医学领域能力碎片化、脆弱或难解释。2026 年，学术界应推进多模态模型建设，关注深度整合、可解释性、数据效率和适应性及模型在工作流中的整合。
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
开源端到端语音大模型：直接从原始音频输入，生成语音输出
目前大模型大多只能输出文本，人机音频交互不顺畅。Step - Audio团队开源端到端语音大模型Step - Audio - AQAA，能直接听懂音频问题并合成语音回答，介绍了其架构和各核心模块。
物理AI的「原生」时刻：原力灵机发布具身大模型DM0
主流‘预训练 - 后适配’范式有局限，原力灵机联合阶跃星辰提出具身原生 VLA 模型 DM0。它能统一机器人操作与导航，在 RoboChallenge 测试领先，还介绍了架构、训练方法及未来演进方向。
从数据到决策：AI 驱动的 Quick BI 架构设计与实践
阿里云智能集团瓴羊高级技术专家王璟尧，介绍阿里云 Quick BI 从传统 BI 到 AI 驱动的智能 BI 的进化，解析领域大模型与 BI 引擎协同设计等技术权衡，为行业提供可复用技术范式。
小模型也能精确计算：WorldModel-Qwen的推理时代码执行实验
开发者bigattichouse让Qwen - 0.6B小模型推理时生成并执行WASM代码获计算结果。最初尝试加标签生成Python代码效率低，后用WASM，创建三层架构。虽结果未完美，但接近，还通过Gemini审查验证。
LLM近期重大架构进化一览：从Gemma 4到DeepSeek V4
近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。
Loop-ViT：让AI学会「反复思考」，3.8M参数小模型追平人类平均水平
香港科技大学等团队提出 Loop - ViT，将循环 Transformer 引入视觉推理领域。该模型参数少但性能强，3.8M 小版本追平人类平均水平，揭示视觉推理任务中‘思考时间’比‘模型大小’更重要。
刚刚，智源全新「悟界」系列大模型炸场！AI第一次真正「看见」宏观-微观双宇宙
6月6日第七届智源大会，智源研究院推出全新「悟界」系列大模型，含原生多模态世界模型Emu3、脑科学多模态通用基础模型见微Brainμ等，反映其对大模型发展的研判，推动AI向物理世界迈进。