「多GPU性能」共找到 5707 篇相关文章
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
【博客转载】CUDA Vectorized Memory Access （文末送书）
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽，实现朴素自定义设备内存拷贝函数，对比不同数据类型、大小及方法的性能，得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。
慕了！内存芯片巨头年终奖人均64万；32岁程序员猝死背后公司被扒，曾给39万“封口费”；马斯克曝星舰成本将降99%，商业航天受捧｜AI周报
这是一篇AI周报，涵盖多领域热点。如SK海力士发高额年终奖；月之暗面张予彤称Kimi用少量资源开发领先模型；马斯克透露星舰目标、人形机器人计划等；多家公司有新动态，如阿里推AIGC应用、百川发布医疗大模型等。
究竟会花落谁家？DeepSeek最新大模型瞄准了下一代国产AI芯片
近期，DeepSeek发布V3.1新模型，采用全新混合推理架构，在多任务表现上有提升。它采用UE8M0 FP8，或为国产推理芯片优化机制。国内多家厂商新一代AI芯片支持FP8，未来国产大模型或针对其专门优化。
又是王冠：27M小模型超越o3-mini！拒绝马斯克的00后果然不同
27M小模型HRM由拒绝马斯克的00后王冠开发，超越o3 - mini - high和DeepSeek - R1，推理不靠思维链。它采用分层推理等五项核心技术，在多测试中表现出色，虽被指通用性不足，但有人看好其仿脑架构。
干货满载！腾讯云AI技术周圆满收官，回顾如何利用AI增效创收
2025腾讯全球数字生态大会启幕前夕，腾讯云联合InfoQ打造「AI技术周」，9月8 - 14日直播输出，围绕多关键议题邀大咖对话，公布多项AI+产品进展，涵盖降成本搭应用、AI Agent落地、数据库智能进化等内容。
大基金或将领投DeepSeek？算力拐点将至
5月6日报道国家大基金正洽谈领投DeepSeek首轮融资，估值约450亿美元。大基金此前未公开投资大模型公司，此次若落地是从“半导体硬件”向“AI应用端”延伸。2025年是中国AI芯片出货量关键年份，DeepSeek-V4发布，多家国产芯片品牌完成适配，但国产芯片仍面临性能、软件生态等挑战。
阿里：RL强化LLM推理，是技巧还是陷阱？
近年来，强化学习（RL）成为解锁大型语言模型（LLM）复杂推理能力的关键工具，但该领域也面临技术选择困境。阿里联合多所高校的论文通过大规模可复现实验，揭示主流RL技巧的机制与适用场景，还发现极简组合（Lite PPO）性能超越复杂方案。
AI 正当时，实践正落地：2025 AICon 深圳站圆满收官
8月22 - 23日，2025 AICon深圳站圆满落幕，超800位从业者参与。大会汇聚多企业专家，围绕多热点探讨。极客邦霍太稳指出AI从模型比拼到落地实践。多位嘉宾分享经验，如阿里云蒋林泉、快手周国睿等。还有多场硬核分享及开发者展区。
开源版 Claude Cowork
Multica是原生桌面客户端，将编程智能体能力带给大众，支持Claude Code等。它类似Obsidian，可按需定制，能解决编程智能体使用障碍，具备简洁界面等特性，还介绍了使用、开发、构建等内容。