「显存瓶颈」共找到 665 篇相关文章
Unsloth宣布更新，可免费用强化学习训练视觉大模型Qwen2.5-VL-7B
Unsloth宣布更新，支持视觉/多模态模型强化学习训练，含Gemma 3和Qwen2.5 - VL。其独特机制使VLM RL训练速度提升、显存占用降90%等。还引入GSPO算法，能在免费Colab T4 GPU训练Qwen2.5 - VL - 7B。
GPT-5 = Scaling Law失效？毕树超：永远有效，因为它反应的是数据结构，客观规律
Shuchao Bi在哥大演讲阐述AI发展。回顾自监督与强化学习路径，指当前发展遇高质量数据瓶颈，认为Scaling Law不会失效。还探讨通往AGI面临的问题，畅想AI重塑世界，提出两个理解AI发展的心智模型。
一个投资人与他的AI龙虾助手70天真实协作笔记｜甲子光年
恒海奇点创始人姜海舟分享与OpenClaw构建的AI Agent协作系统70天经验。他指出企业AI化瓶颈在信息结构，提出四个判断，包括AI缺信息、‘眼高手低’者赢、AI不裁人、‘吓尿点’临近，认为窗口期只剩3 - 6个月。
陶哲轩：AI 已经把想法成本降到几乎为0了...
著名数学家陶哲轩在与播客主持人Dwarkesh Patel的对谈中分享使用AI一年后的观点，认为AI已将想法生成成本降至几乎为零，但验证和评估成新瓶颈，还探讨其对数学研究的影响及未来发展。
618想换电脑跑AI？先听我一句劝。
文章围绕618换电脑跑AI展开，分析了本地跑AI的情况，包括不同模型对算力和显存的要求，指出本地跑的好处是隐私安全、无限免费，还推荐了不同预算的笔记本，为想换电脑学AI的人提供参考。
Transformer 中的专家混合模型 (MoE)
文章介绍Transformer中专家混合模型（MoE），它能解决稠密模型扩展瓶颈。阐述其优势，如计算高效、适合并行等，还介绍在transformers库中支持稀疏架构的演进，包括权重加载重构、专家执行后端、专家并行及训练方案。
刚刚！Kimi Linear横空出世，全新注意力架构：1M长文本解码速度飙升6.3倍，KV缓存砍掉75%
月之暗面推出全新注意力架构Kimi Linear，有望成下一代Agent LLM基石技术。它解决了LLMs处理长序列任务的瓶颈，性能超传统机制，还开源了核心代码。Kimi Linear的KDA模块提升了表达和硬件效率，实验表现佳。
断网可用！首款全双工全模态大模型技术报告发布，附一键安装包
面壁智能等联合发布MiniCPM-o 4.5技术报告，它是业界首个端到端全双工全模态大模型，采用Omni - Flow架构。同步推出在线Demo、API、端侧安装包等，低显存GPU即可运行，性能表现优秀，应用潜力大。
ICCV 2025 | EPD-Solver:西湖大学发布并行加速扩散采样算法
扩散模型成生成任务主流技术，但逐步去噪机制致推理延迟大。西湖大学提出 EPD - Solver 算法，融合三类加速思路优势，可减少积分误差、提升生成质量，还能作插件集成，突破扩散模型速度与质量权衡瓶颈。
CVPR 2026 | 从视觉Token内在变化量出发，实现VLM无损加速1.87倍
随着高分辨率图像与长视频处理需求增长，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token内在变化量出发，采用多阶段渐进式剪枝策略，实现无损加速，在图像和视频理解场景表现卓越。