「开源推理模型」共找到 9140 篇相关文章
中大 × MBZUAI重磅开源！A₁：全透明高效 VLA 模型，机器人实时控制成本直降 76% 丨CVPR 2026 Findings
开放世界机器人操作被大模型算力成本和推理延迟难题困住，中大与MBZUAI团队推出全开源的A₁模型，其自适应推理方案降低推理延迟和骨干计算量，性能超主流基线，打破‘高性能=高成本’魔咒。
微软分享三大王炸算法：突破大模型推理瓶颈，性能大涨
今天凌晨微软官网分享三大创新算法，即rStar - Math、LIPS、CPL，可助大模型突破推理瓶颈，增强数学推理和思考链能力，还介绍了各算法原理、优势及对应论文地址。
华为曝光两大黑科技！打破推理延迟魔咒，大模型从此「秒回」
华为通过FusionSpec和OptiQuant两大技术创新，对MoE模型进行推理优化。FusionSpec依托昇腾特点，将投机推理框架耗时降至1ms；OptiQuant支持灵活量化，为大模型推理提供高性价比。
7万个模型、1600万开发者，阿里魔搭已建成中国最大AI开源社区
首届魔搭开发者大会公布，魔搭社区开源模型超7万个，用户达1600万，成中国最大AI开源社区。阿里云CTO周靖人认为‘云端协同’是重要课题，魔搭要覆盖模型全生命周期，减少模型落地差距。
告别「盲目自信」，CCD：扩散语言模型推理新SOTA
华为小艺香港团队等研究人员提出上下文一致性解码算法（CCD）。它解决传统DLM推理“短视”和采样预算固化问题，在开源DLMs上实现3.48倍加速和3.9%性能提升，适配多种解码设定。
英伟达新架构引爆全模态大模型革命，9B模型开源下载即破万
英伟达推出全模态大模型OmniVinci并开源，其90亿参数规模性能超同级别甚至更高级别模型，训练数据效率是对手6倍，能精准解析视频和音频，在多模态应用场景中表现卓越，下载量破万。
开源多模态推理「破壁」时刻：MMFineReason助力4B逆袭30B
长期以来，开源多模态模型在复杂推理任务上与顶尖闭源模型有差距，核心痛点是高质量推理数据匮乏。上海AI实验室OpenDataLab团队开源MMFineReason框架及大规模数据集，小模型凭此实现性能逆袭。
一个模型读懂所有医学数据，Hulu-Med探索医学大模型开源新范式 | 浙大x上交xUIUC
Hulu - Med是浙大、上交、UIUC等联合提出的通用医学视觉语言大模型，首次在单一模型统一理解医学多类数据。它开源透明，训练成本低，性能媲美GPT - 4.1，为医学AI带来新范式。
火山引擎 veFuser：面向扩散模型的图像与视频生成推理服务框架
近年来扩散模型在图像和视频生成领域取得突破，但 DiT 模型推理面临计算量大、模型多样、实时性需求等挑战。火山引擎推出 veFuser 推理框架，能在图片和视频生成上实现低延迟、低成本的高质量体验，且未来会持续迭代。
不只DeepSeek，阶跃等开源JetSpec：大模型解码提速近10倍
近期，DeepSeek 推出 DSpark，阶跃星辰提出 JetSpec，都关注大模型推理效率。DSpark 关注验证效率，JetSpec 提高有效 Token 生成率。二者切入点不同，但都显示大模型行业进入新阶段，推理效率成 Agent 落地基础变量。