「GPU服务器」共找到 515 篇相关文章
CUDA-MODE第77课课程笔记：用于GPU kernels的DSL
该课程笔记由Tri Dao介绍GPU kernel开发的DSL生态，涵盖PyTorch、Triton、Cute - DSL等。提出计算效率评估公式，对比不同DSL在Softmax、GEMM等操作的性能。还提及其他DSL工具与Triton扩展项目，并给出使用建议。
Token消耗暴降80%，Cloudflare让服务器原生支持Markdown：OpenClaw要笑醒了
Cloudflare发布Markdown for Agents功能，让Web服务器可向AI Agent投喂Markdown数据，抛弃臃肿HTML，Token消耗降80%，还引入内容信号机制，有手动挡工具，功能处Beta阶段，可免费启用。
大型挂机现场：马斯克的55万英伟达GPU，利用率才11%
《The Information》报道，马斯克旗下xAI有55万英伟达GPU，利用率仅11%。原因包括大规模部署协调难、数据传输瓶颈和训练间歇性。这是行业普遍问题，xAI着手解决，设定50%利用率目标。
最小模型仅 25MB，老设备无 GPU 也能流畅跑！
开源项目`KittenTTS`是文本转语音模型系列，核心特点是“小身材，大能量”。最小模型约1500万参数，体积25MB以内，无需GPU，靠CPU就能实现高质量语音合成，适合多种设备和场景。
市值3055亿！摩尔线程敲钟，国产通用GPU第一股来了
国产通用GPU第一股摩尔线程今日敲钟上市，开盘价650元，较发行价高出469%，开盘市值超3055亿元。它88天过会创科创板纪录，将募资用于研发，收入结构转向AI智算领域。
GPU-MODE Leaderboards之vector_add histogram 以及一些有趣发现
文章介绍GPU-MODE Leaderboards中vector_add和histogram任务。分析vector_add实现、带宽利用率，rank1代码用cccl，带宽利用率超80%；histogram算子瓶颈在atomic冲突等，rank1也多用cccl，还给出rank2代码，最后提及任务中Hack行为及代码提交方式。
告别天价API账单！开源Chatterbox语音服务器上线，隐私与效率双赢！
第三方语音合成API成本高、有隐私风险，直接部署开源模型配置复杂。开源的Chatterbox-TTS-Server基于Chatterbox TTS模型，有Web界面、声音克隆等功能，支持GPU和Docker，可解决部署难题。
英伟达GPU被曝严重漏洞，致模型准确率暴跌99.9%
英伟达GPU被白帽黑客发现严重漏洞，通过GPUHammer攻击可使大模型准确率从80%降至0.02%。此攻击属Rowhammer类，直接对显存“物理动手”。英伟达建议的防御措施会使模型性能下降。
黄仁勋提前锁定20年OpenAI芯片收入！第一轮150万GPU卖2000亿美元
英伟达推出‘LPS’概念，联合投资机构出5000亿美元建数据中心，为客户担保。首个项目为在美为OpenAI建150万GPU数据中心，20年或带来巨额芯片收入。黄仁勋也对相关风险做了澄清。
Claude 4被诱导窃取个人隐私！GitHub官方MCP服务器安全漏洞曝光
瑞士网络安全公司发现，GitHub官方MCP服务器面临新型攻击，可诱导AI Agent将私有仓库敏感数据泄露至公共仓库。GitLab Duo近期也有类似漏洞。公司还提出初步缓解举措。