「应用层生态」共找到 3062 篇相关文章
3D高斯泼溅,可输入视图量高达500!推理速度提升3倍,内存少80%
ZPressor能高效压缩3D高斯泼溅(3DGS)模型的多视图输入,解决其在处理密集视图时的性能瓶颈。它基于信息瓶颈原理,分三步压缩信息,降低内存占用和推理时间,提升3DGS在高视图输入下的性能。
一键抠图有多强?19Kstar 的 Rembg 开源神器,5 大实用场景颠覆想象!
在视觉内容需求旺盛的当下,背景抠图工具至关重要。Rembg 是能在本地完成高质量图片背景抠图的开源利器,累积 19.1K ⭐。本文通过项目详解等带你深度了解它的魅力。
AI大模型重塑学习硬件:从工具到伙伴 | 网易有道孟旭
网易有道词典笔产品负责人孟旭在AICon大会分享,以有道AI答疑笔为例,阐述智能学习硬件在大模型催化下从“学习工具”进化为“智能伙伴”,其发展呈“需求牵引 - 技术支撑 - 体验升级”螺旋路径。
【CUDA 博客】使用PTX指令更高效地加载和存储矩阵
文章围绕使用PTX指令高效加载和存储矩阵展开,介绍`ldmatrix`和`stmatrix`指令格式、适用GPU版本、地址计算逻辑等,给出不同矩阵数量的实现代码示例,助读者理解和应用。
【CUDA博客】关于TensorCore和Inline PTX Assembly的一个超简短笔记
文章围绕TensorCore和Inline PTX Assembly展开,介绍利用PTX指令发挥TensorCore潜力。讲述矩阵乘法和累加操作,给出半精度及替代浮点指令形式,有代码示例并分析,还提到不同数据类型用法及SASS指令。
帮大模型提速80%,华为拿出昇腾推理杀手锏FlashComm,三招搞定通算瓶颈
在大模型推理通算难题凸显的背景下,华为数学家祭出 FlashComm。它包含三项技术,分别在 AllReduce 通信、以存换传、多流并行方面优化,解决通信瓶颈,提升推理性能,未来还将围绕多方向创新。
火遍全网的AI在线生成前端页面DeepSite开源替代LocalSite
LocalSite AI是现代化网页应用,能按自然语言描述生成HTML、CSS和JavaScript代码。它功能丰富,支持多AI供应商,介绍了技术栈、安装步骤、部署方式、使用指南及发展路线等。
卡内基梅隆大学开源LegoGPT,用AI设计乐高模型
卡内基梅隆大学开源LegoGPT,可依文本提示生成物理乐高模型。它把乐高设计转为自回归文本生成任务,基于LLaMA - 3.2 - 1B - Instruct微调,应用场景广泛,如教育、玩具设计等。
新型开源端到端 AI 语音模型!Voila:195ms 超低延迟引领全双工对话!
Maitrix团队发布开源AI端到端语音模型Voila,以195ms超低延迟及全双工对话受关注。它功能强大,支持多语言,有多种使用方式,适用于多个场景,架构采用模块化设计。
1.6K Star!阿里开源 zg:一条命令解决 Agent 时代的本地检索难题。
AI Agent 用 ripgrep 检索常遇难题,因代码命名和自然语言有‘词汇鸿沟’。阿里开源的 zg,将三种搜索能力整合进 CLI 工具,可用于终端与人机交互,还介绍了其安装、建索引及搜索的方法。