「GPU加速」共找到 964 篇相关文章
解码加速15倍！EdgeRazor助推大模型在PC/移动端“狂飙”
大语言模型参数膨胀，端侧部署难，量化成主流轻量化方案。开源工具库EdgeRazor由南京大学和微软联合推出，采用MPQAD打破极低比特大语言模型“能力塌陷”，在性能、效率、易用性等方面表现出色，打通AI全生态链路。
瞄准AI、图形顶端战场：摩尔线程上演国产GPU硬核实力路演
摩尔线程首届 MUSA 开发者大会集中亮相技术体系。发布新一代统一计算架构 MUSA 路线图，介绍新架构、芯片及万卡集群，还涉及前沿布局，发起开发者培训，推出 AI 算力笔记本，宣告国产算力自主化时代加速到来。
Ollama升级模型调度系统：内存管理更精准，多GPU性能提升
Ollama升级模型调度系统，精确测量运行模型所需内存，带来内存崩溃减少、GPU利用率提高等改进。Gemma3、Mistral - small3.2等模型性能提升，更多模型正迁移，还在开发iGPU支持，评估NPU支持。
西湖大学提出RDPO强化学习框架，实现扩散模型并行推理加速
扩散模型“顺序去噪”特性成速度提升瓶颈。西湖大学AGI Lab提出RDPO框架，不必改动模型本身，优化其“采样导航系统”，在多基准测试中取得领先图像生成效果，解决加速问题并提供RLHF对齐新范式。
Unsloth-MLX：在Mac上微调LLM，代码无缝迁移到云端GPU
对于Mac用户，在原型实验阶段反复租云端GPU是资源浪费。开发者推出Unsloth - MLX，基于MLX框架，让Mac用户本地高效微调大模型，改一行导入语句就能无缝迁移代码到云端，还介绍项目特点、状态等。
英伟达炸裂业绩打飞“AI泡沫”，黄仁勋：云端GPU卖光了
英伟达财报超预期，盘后股价飙升，带动行业股票反弹。黄仁勋称云端GPU售罄，驳斥“AI泡沫论”。其业务多板块增长，不过毛利率回落，因业务结构转型。市场对AI投资热潮看法不一，黄仁勋称是“AI良性循环”。
机器人新势力估值断层加速，具身智能靠什么穿越风暴？
文章指出机器人新势力估值断层加速，具身智能公司估值复杂，标准难统一。其智能路线收敛，但暂无领先团队。投资上，虽人才被认为处‘价值低谷’，但 VC 要回归商业本质，港股上市规则也引发担忧。
几张GPU干翻超算！耶鲁AI颠覆化学合成，实验成功率71%
近日，耶鲁大学李昊特团队开发 AI 系统 MOSAIC，将化学合成知识分 2498 个领域训练专家模型。测试中对超 35 种新化合物合成成功率达 71%，还完成难反应与新反应，相关论文发表于《自然》。
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
总市值超6000亿，四家国产GPU上市企业谁是真龙头？
1月8日，天数智芯登陆港交所，至此“国产GPU四小龙”齐聚资本市场。本文盘点了天数智芯、壁仞科技、沐曦股份、摩尔线程这四家企业的上市信息、市值表现、主营业务差异和商业化进展。