「低延迟推理」共找到 2947 篇相关文章
刚刚开源就爆火，轻量快速，GB 大文件都秒开！
文章介绍刚开源就爆火的文本编辑器Fresh，它基于Rust语言，目标轻量、快速、功能强大，支持多平台。有上手0门槛、轻量快速等特性，还给出多平台安装方式和基本使用方法，值得开发者尝试。
以AI革新研发：从数字协同到智能工艺的全链路升级
文章介绍“数字化大研发体系”，Geega捷做设计研发协同平台从三维度重塑研发管理，解决五大问题；Geega工艺专家数智引擎系统让工艺环节智能化跃升，该体系能带来立体价值，提升企业效率。
jiSGLang集成ktransformers：2TB内存运行Kimi K2 Thinking模型
对于内存多但GPU资源有限的用户，SGLang集成ktransformers的CPU内核，支持直接运行Kimi K2 Thinking模型。它无需等量化，还能微调，虽性能与GPU方案有差距，但给用户新选择。
Soul APP开源了一款高保真播客生成框架，90 分钟对话零崩盘！
Soul APP背后的Soul AI Lab发布开源项目SoulX - Podcast，是高保真推理框架，能生成90分钟以上连贯对话，有多方言切换等功能，或重塑语音内容产业生产方式。
清华、快手提出AttnRL：让大模型用「注意力」探索
清华和快手团队提出新框架AttnRL，引入注意力机制提升过程监督强化学习效率与性能。它解决传统方法在分支位置选择和采样策略上的效率问题，实验显示在多基准测试中表现优异。
可能是目前效果最好的开源生图模型，混元生图3.0来了
腾讯混元发布并开源原生多模态生图模型混元图像3.0，参数规模80B，是参数量最大的开源生图模型，也是首个开源工业级原生多模态生图模型，效果对标业界头部闭源模型。文中介绍其技术方案、测评效果等。
2025年深度学习趋势：从Transformer架构到无处不在的边缘计算
2025年深度学习成科技顶流，市场规模飙升。其发展受算力、数据、算法推动，应用于多领域。核心趋势包括Transformer架构发展、低代码开发等，同时也面临伦理、人才短缺等挑战。
黄仁勋出手！45倍性能暴涨，英伟达定义物理AI新纪元
在SIGGRAPH 2025上，英伟达发布「物理AI」全家桶。展示完整生态，含新硬件、仿真平台和AI模型。如RTX PRO 6000服务器显卡性能涨45倍，还推多款模型，应用于多领域，推动物理AI落地。
Github 斩获 16.3k star，Open Lovable 只需1分钟，就能克隆你的任意网站！
Open Lovable 是 Firecrawl 团队开源项目，能通过 AI 聊天将任意网站转化为 React 应用，支持整站抓取与重组。它解决了多类人群痛点，功能丰富，技术架构有优势，在同类对比中表现出色，获 16.3k star。
腾讯混元开源游戏AI生成新工具！RTX 4090就能制作3A级动态内容
腾讯开源游戏视频生成框架Hunyuan - GameCraft，基于混元视频生成搭建，操作简单，输入单张场景图、文字描述和动作指令就能生成高清动态游戏视频，解决传统工具瓶颈，性能优于主流模型。