「多GPU性能」共找到 5675 篇相关文章
2025年深度学习趋势:从Transformer架构到无处不在的边缘计算
2025年深度学习成科技顶流,市场规模飙升。其发展受算力、数据、算法推动,应用于多领域。核心趋势包括Transformer架构发展、低代码开发等,同时也面临伦理、人才短缺等挑战。
semianalysis 长文 | 关于Meta 砸钱、抢人、领导力、建帐篷、计算、数据和超级智能
Meta在基础模型性能落后,扎克伯格亲自挂帅开启AI军备竞赛。他砸钱收购、挖人、堆算力,建GPU集群,还面临Llama 4失败问题,试图通过一系列举措追赶超级智能。
Cursor 免费平替:Gemini Code Assist (附开启隐藏 Agent 模式教程)
文章介绍了 Cursor 的免费平替 Gemini Code Assist,可在多种 IDE 免费使用,基于 Google 先进的 Gemini 模型。还给出安装指南,以及开启隐藏 Agent 模式教程,开启后能调用 MCPs 增强能力。
1200行代码逆袭!DeepSeek工程师开源轻量级vLLM,吞吐量逼近原版
开源 vLLM 可提升 LLM 推理速度和资源利用率。近日,DeepSeek 工程师俞星凯开源轻量级 Nano - vLLM,代码仅 1200 行,基准测试中吞吐量逼近原版,项目已在 GitHub 获 200 多 Star。
微软开源AI量化神器Qlib
微软开源AI量化平台Qlib,支持多样机器学习范式,解决量化投资挑战。包含数据处理等完整流程,有安装、数据准备等说明,还提供自动化和定制化工作流,以及应对挑战的方案和性能对比。
Anthropic 推出 MCP 隧道,供私有代理访问内部系统
Anthropic扩展Claude Managed Agents平台,推出自托管沙箱和MCP隧道功能。自托管沙箱公测,支持多服务商运行工具;MCP隧道处研究预览,可让代理连私有MCP服务器,满足企业管控需求。
加速200倍,单显卡1.8秒生成5秒高清视频!清华与Vidu解开了视频扩散模型的速度枷锁
清华、生数科技与伯克利联手用TurboDiffusion解开视频扩散模型速度枷锁。它改造注意力机制、引入步数蒸馏和量化策略,在多模型测试中加速100 - 205倍,且画质几乎无损。
时空压缩!剑桥大学提出注意力机制MTLA:推理加速5倍,显存减至1/8
在大语言模型发展中,Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA,结合时空压缩策略,提升推理效率,在多任务中表现出色,代码已开源。
苹果放王炸!开放大模型访问权、全家桶集成ChatGPT,人人能开发AI应用
苹果在“WWDC 2025”大会宣布在多设备集成Apple Intelligence功能,含ChatGPT图像生成等。开放基础模型访问权,开发者可开发适配应用。新功能将逐步开启测试,今年秋季部分用户可用。
AI产业链投资大逻辑:第三集
本集围绕AI产业链投资大逻辑,从底层的电展开。指出AI瓶颈正从GPU扩散到电力,存量核电资产因AI数据中心需求变得值钱,还引出'过渡期与终局'核心判断框架。