「硬件加速」共找到 1056 篇相关文章
清华万引教授：万倍加速催化剂设计，AI突破DFT瓶颈！
清华大学王笑楠团队提出催化剂设计新基础模型SurFF，发表于Nature Computational Science。它无需昂贵实验或耗时DFT计算，实现对金属间化合物表面暴露与形貌的高效、高精度预测，计算速度提升10⁵倍。
免训练加速61倍！陈怡然团队新作DPad：仅关注「彩票token」
杜克大学陈怡然团队新作DPad，发现扩散大语言模型关注少量「中奖」token，推理速度可提61 - 97倍，还增强模型语境学习能力。DPad免训练零成本挑关键信息，实现「少算多准」。
国内卖得很好的智能硬件产品，为什么一出海就不行了？
中国智能硬件产品国内畅销，出海却遇阻，原因在于路径依赖致战略错位。未来十年是‘中国品牌’置换‘中国制造’关键期，Cismea 作为品牌孵化平台，助力中国品牌扎根北美主流市场。
解码加速15倍！EdgeRazor助推大模型在PC/移动端“狂飙”
大语言模型参数膨胀，端侧部署难，量化成主流轻量化方案。开源工具库EdgeRazor由南京大学和微软联合推出，采用MPQAD打破极低比特大语言模型“能力塌陷”，在性能、效率、易用性等方面表现出色，打通AI全生态链路。
“最美产品经理”宋紫薇，创业AI硬件首款产品曝光
前vivo「最美产品经理」宋紫薇AI创业细节曝光，其创立的薇光点亮瞄准AI化妆镜赛道。智能化妆镜并非新事物，此前存在不够智能、价格贵等问题，而AI赋能或让玩法升级，还能探索新商业模式。
西湖大学提出RDPO强化学习框架，实现扩散模型并行推理加速
扩散模型“顺序去噪”特性成速度提升瓶颈。西湖大学AGI Lab提出RDPO框架，不必改动模型本身，优化其“采样导航系统”，在多基准测试中取得领先图像生成效果，解决加速问题并提供RLHF对齐新范式。
能懂孩子、懂爸妈、还懂宠物，这届AI硬件太会了
在AI终端生态大会上，荣耀携手伙伴展示AI新用法，发布八大AI场景化生态解决方案，覆盖多高频场景。其构建的AI生态网让AI从‘能用’到‘好用’，还重新定义硬件与人的关系，让AI更懂生活。
13.8K star！！6G显存就能跑的AI视频神器，支持1分钟生成，这么6？！
现在AI视频生成领域仍面临高算力需求挑战，斯坦福大学研究团队推出`FramePack`项目，降低了本地AI视频创作硬件门槛，有低硬件需求、高效生成速度等特色，操作也简单。
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
英伟达发布 Jet-Nemotron 系列小模型，理论最大加速比 56 倍
英伟达发布 Jet - Nemotron 系列小模型，在多项基准测试中表现出色，实现高吞吐量加速和高准确率。其训练采用 PostNAS 方案，对既有模型针对性优化，展示了在小模型优化上的可行技术路径。