「GPU显存」共找到 468 篇相关文章
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
Andrej Karpathy 盛赞！斯坦福团队新作，让Llama-1B 实现毫秒级推理
斯坦福Hazy Research团队将开源模型Llama - 3.2 - 1B前向推理整合为“Megakernel”，把推理延迟大幅降低，显存带宽利用率显著提升。团队指出当前主流LLM推理系统在小batch、极低延迟场景下低效，提出Megakernel以重构执行方式。
Sora 模糊视频有救了！强大的免费开源AI视频处理工具！硬件要求低！
Video2X-QT6是免费开源AI视频处理工具，支持视频超清放大、补帧，兼容CPU和GPU，低配置电脑也能用。6.0.0版本用C/C++重写，速度快、跨平台，还能处理图片。介绍了不同系统安装方法等。
读万卷书，大模型就能「看」懂视觉世界？Meta揭秘LLM视觉先验的起源
Meta超级智能实验室与牛津团队新论文发现，只见过文本的大语言模型（LLM）能学到可迁移到视觉任务的先验能力。研究通过超100组受控实验、耗费50万GPU小时，揭开LLM视觉先验来源，还给出预训练数据配方。
英伟达&MIT等推出Long-RL，长视频训练速度翻倍
英伟达联合MIT等推出Long - RL，它是面向长序列推理和多模态强化学习的全栈训练框架，能提升RL训练数据长度上限，让训练速度翻倍。其核心MR - SP并行框架可降低训练耗时和显存，LongVILA - R1是其明星应用。
万亿思考模型新速度！蚂蚁开源Ring-2.5-1T：IMO金牌水平，强；混合线性架构，快！
蚂蚁集团发布全球首个开源混合线性架构万亿参数模型Ring - 2.5 - 1T，打破深度思考牺牲推理速度和显存的‘不可能三角’。还同期发布扩散语言模型LLaDA2.1和全模态大模型Ming - flash - omni - 2.0，想做成可复用底座。
高通祭出全球最快移动SoC！卢伟冰携全球首发小米17Pro现身
2025骁龙峰会·中国会场，高通推出第五代骁龙8至尊版移动平台，采用台积电3nm制程。小米17系列将全球首发，多家厂商也会搭载。该芯片在CPU、GPU、NPU等多维度性能提升，还在影像、音频和通信方面有飞跃。
“国产英伟达”沉浮：经历欠薪、二度创业
本文讲述了从 2018 年起，一支人才“梦之队”投身国产 GPU 芯片创业。先后成立中天恒星和砺算科技，却都遭遇资金问题。砺算科技正在流片的 G100 号称对标英伟达，但其资金困境使其未来充满未知，也反映了芯片创业市场现状。