「显存瓶颈」共找到 665 篇相关文章
OpenAI：如何用 Codex 在 28 天内极速打造安卓版 Sora
OpenAI发布工程博客，揭秘用Codex不到一个月打造Sora安卓版应用的过程。这款应用上线首日冲至Google Play下载榜第一，24小时内用户生成超百万视频，开发过程耗约50亿tokens，崩溃率仅0.1%。
从分钟级等待到20倍超速：LightX2V重写AI视频生成速度上限
今年，开源项目LightX2V在ComfyUI社区走红，单月下载超170万次。它是面向低成本、强实时视频生成的推理技术栈，能在消费级显卡上高效生成视频，还支持多种模型和硬件，覆盖不同用户需求。
关键技术详解｜腾讯一念 LLM 分布式推理优化实践
InfoQ 邀请袁镱分享《一念 LLM 分布式推理优化实践》。介绍了“一念 LLM”设计思路、推理优化挑战与突破等，还对比不同框架，指出优化方向，如先实现 PP，再推进 EP 与 PD 分离。
预测下一个像素还需要几年？谷歌：五年够了
谷歌DeepMind研究者分析下一像素预测在图像识别与生成任务中的扩展特性。实验显示其扩展趋势与文本类似但效率低，最优策略因任务和分辨率而异，预计未来五年逐像素建模可行。
Google Research 开源新架构，AI 不再依赖云端，直接跑在手表和耳机上
Google Research 开源 Coral NPU 平台，是面向硬件工程师与 AI 开发者的全栈开源方案，可克服 AI 在可穿戴和边缘设备落地的瓶颈，实现能耗与算力平衡，还能解决算力、生态、隐私等问题。
NeurIPS 2025 Spotlight | GeoSVR：稀疏体素的新潜力——超越3DGS系列的高精度三维表面重建
计算机视觉中表面重建难题待解，现有方法有瓶颈。北航等团队提出 GeoSVR 框架，围绕几何约束与表面正则化设计，在多数据集超现有方法，兼顾精度、完整性与效率，为多领域提供支持。
RL 效率无损飙升 3 倍：厦大-Shopee-清华联合首创，将投机解码首次引入 RL，推理能力稳如初！
传统RLVR训练中，rollout阶段耗时成瓶颈。厦大 - Shopee - 清华联合团队提出SPEC - RL，将投机解码引入RL，训练提速2 - 3倍，避免重复生成，与主流算法兼容，在多项基准测试中性能稳定。
102.4 亿 AI 数字人市场下：华为云 × 今日人才如何打造能用且好用的数智员工？
当前多数企业将 AI 作辅助工具，先锋玩家则将其“超级能动性”用于“数智员工”。数智员工应用面临挑战，华为云与今日人才合作打造产品，如政务数智员工，还构建培育体系，推动其从辅助向协同升级。
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
炸裂提速30倍！Meta提出REFRAF，无需改动模型，让RAG告别冗余与等待
近年来，RAG任务在提升模型回答质量的同时带来性能代价，Meta等团队合作提出REFRAG框架。它将无关段落压缩，引入强化学习选关键段落，实现高达30.85倍的TTFT加速，且无需改模型结构，实用性强。