「混合推理架构」共找到 3661 篇相关文章
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法，通过PD分离、多层MTP优化等全栈优化方法论，还介绍多机性能优化方案，后续预计性能突破20000 tokens/s。
月之暗面刚开源多模态Kimi-2506：智能体、视觉理解，重磅大升级
国内月之暗面平台对开源多模态模型Kimi-VL-A3B-Thinking升级到2506版本。该版本性能、视觉理解等能力提升，支持更高分辨率，在多领域表现出色，还介绍了模型组成与优化器改进。
12年首次大改！真有人喜欢苹果的“液态玻璃”吗？至少Flutter 开发者的噩梦开始了
在 WWDC 2025 上，苹果宣布在多操作系统引入‘液态玻璃’新视觉风格，是 12 年来最大 UI 革新。这或成苹果移动端外观重大转变，但也掩盖其 AI 落后现状，还让开发者面临功耗、适配等挑战。
一键抠图有多强？19Kstar 的 Rembg 开源神器，5 大实用场景颠覆想象！
在视觉内容需求旺盛的当下，背景抠图工具至关重要。Rembg 是能在本地完成高质量图片背景抠图的开源利器，累积 19.1K ⭐。本文通过项目详解等带你深度了解它的魅力。
MiniCPM 4.0来了！220倍极速狂飙，端侧模型的比赛，结束了
面壁智能联合清华发布MiniCPM 4.0，极限场景220倍加速。它是首个原生稀疏模型，有三级火箭推理加速体系，性能强，适配全平台，应用广泛，或成端侧AI分水岭。
经典ReLU回归！重大缺陷「死亡ReLU问题」已被解决
在深度学习领域，经典 ReLU 函数因简洁性等优势受青睐，但有「死亡 ReLU 问题」。德国吕贝克大学等机构研究者引入 SUGAR 方法，不牺牲 ReLU 优势解决该问题，还设计 B - SiLU、NeLU 函数，实验显示性能提升显著。
智源技术分享：大模型行业应用新模式和关键实现路径
在 AICon 大会上，智源研究院周华分享大模型行业应用。分析落地问题，提出以大模型为核心的技术路径，涵盖数据、训练等环节，还给出数据生产流程建议，分享最新开源成果。
快手&中科院 | 提出多模态奖励模型：R1-Reward，比SOTA模型提升5%-15%！
多模态奖励模型对提升多模态大语言模型表现至关重要，但现有强化学习算法用于训练存在问题。快手、中科院等团队提出 R1 - Reward，在基准上比 SOTA 提升 5% - 15%，还在快手业务场景成功应用。
斩获18.3K star！再见Airtable，这款Postgres驱动的开源表格神器要火！太 6了
Teable是基于PostgreSQL的无代码数据库平台，被赞为Airtable开源替代潜力股。它有百万级数据秒级响应等亮点，具备独特技术架构，适用于多场景，与同类对比优势明显。
多模态技术爆发元年，行业应用如何落地？
InfoQ《极客有约》X AICon 直播栏目，邀上海交大赵波、快手高欢、腾讯邵帅探讨多模态大模型。谈及技术挑战、开源闭源、行业落地等，还分享精彩观点，如先大后小蒸馏提效，垂直模型现阶段更优。