「GPU显存」共找到 468 篇相关文章
MOE RL实战：统一FP8全流程训练
SGLang RL团队等联合完成工作，实现RL中全流程FP8训练与采样。介绍FP8训练硬件基础、格式、scale选择等，指出训练难点，分析KL Loss异常归因，验证其在MoE模型RL应用效果，还探究模型规模对训推不一致性的影响。
曦望，死磕AI推理成本｜甲子光年
1月27日，国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制，设计系统级重构，单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划，目标是极致推理性价比。
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
黄仁勋迟到了15分钟，然后甩出一个数字：1万亿美元。
GTC 2026上，黄仁勋获“Token之王”称号。他预计英伟达到2027年营收至少1万亿美元，还展示商业定价模型，推出Vera Rubin系统，整合Groq芯片，开源OpenClaw，预告Feynman架构，开发太空数据中心。
最新原生端到端OCR开源项目！
腾讯开源最新原生端到端OCR：HunyuanOCR，仅1B参数，OmniDocBench得分94.1超竞品，功能覆盖全场景。还介绍了DeepSeek - OCR的桌面客户端，支持拖拽识别、导出文件等。
极低成本，复现GPT-4o图像风格化一致性！NUS推出OmniConsistency
NUS ShowLab 推出 OmniConsistency，解决开源扩散模型在图像风格化一致性上与商业 API 的差距。它成本低，能在保持风格化效果时精准保留图像细节等，还解决了风格化与一致性的跷跷板问题，且兼容性强。
成本仅0.3美元，耗时26分钟！CudaForge：颠覆性低成本CUDA优化框架
CUDA代码性能对模型训练与推理重要，但手动优化门槛高。明尼苏达大学团队提出CudaForge，是低成本多智能体CUDA Kernel生成与优化工作流，实验效果好，成本低且具通用性。
无限长、零掉帧！StableAvatar口型同步全新技术
当前音频驱动头像视频生成扩散模型合成长视频时难兼顾音频同步与身份一致，瓶颈在音频建模。复旦大学提出StableAvatar，首个端到端视频扩散Transformer，能无限时长生成，还介绍原理与演示效果。
最强开源0.9B级OCR模型！PaddleOCR-VL本地一键部署！
作者分享本地部署PaddleOCR-VL的经历，包括踩坑过程、解决办法及启动指令。该模型识别速度快，支持OpenAI API格式，可轻松接入Fastgpt、Dify、n8n等平台。
GitHub热搜，腾讯黑科技炸场！PhotoMaker：10秒定制真人级头像，百万开发者已疯狂
PhotoMaker是腾讯ARC实验室联合南开大学发布的人像图像生成项目，荣膺CVPR 2024。它能秒级生成高质量人像，有高保真ID嵌入等机制，V2版升级显著，适用多场景，比同类项目优势明显。