「显存瓶颈」共找到 687 篇相关文章
清华刘洋团队论文：揭示为何 70B 的医疗模型，反而不如 8B 会问诊丨ILCR 2026
在医疗AI领域，模型静态评测与临床问诊能力存在断层。清华刘洋团队提出DOCTOR - R1，将临床问诊建模为POMDP，用强化学习训练。实验验证了其有效性，对医疗AI发展有深远启示。
大模型思维链推理速度倍增！——RoT新框架把思维链「画」进隐空间
随着大模型规模扩展，思维链（CoT）成处理复杂推理任务标准范式，但显式CoT依赖长序列生成，隐式CoT面临优化挑战。腾讯提出RoT新框架，利用视觉编码器将文本推理步骤转为视觉嵌入，实现Token压缩与推理加速，且过程可分析。
6张图看清中美AI竞赛：美国领先在哪，中国优势在哪
TIME杂志文章用六张图表解析中美AI竞争，指出美国在芯片控制、模型性能和商业变现领先，中国受算力瓶颈制约，但在人才基础和能源供给有优势，特朗普新出口规则或带来转机。
2025 AI 趋势报告：Agents 正在跨越鸿沟
《2025 AI 趋势报告》指出，AI 智能体跨过鸿沟被广泛采用，能力比肩人类，成本优势显著，影响招聘。能源成制约，生成式 AI 普及快，收购成主要退出路径，虽估值高但基本面尚好，还分析了下一波创业切入点。
从过拟合到通用！ViMoGen开启3D人体动作生成新纪元
随着AIGC爆发，3D人体动作生成领域滞后，现有模型泛化能力有瓶颈。南洋理工大学等机构研究人员提出ViMoGen，从数据、模型、评估三方面重新定义通用动作生成路径，还能赋能具身智能。
OpenAI：如何用 Codex 在 28 天内极速打造安卓版 Sora
OpenAI发布工程博客，揭秘用Codex不到一个月打造Sora安卓版应用的过程。这款应用上线首日冲至Google Play下载榜第一，24小时内用户生成超百万视频，开发过程耗约50亿tokens，崩溃率仅0.1%。
从分钟级等待到20倍超速：LightX2V重写AI视频生成速度上限
今年，开源项目LightX2V在ComfyUI社区走红，单月下载超170万次。它是面向低成本、强实时视频生成的推理技术栈，能在消费级显卡上高效生成视频，还支持多种模型和硬件，覆盖不同用户需求。
关键技术详解｜腾讯一念 LLM 分布式推理优化实践
InfoQ 邀请袁镱分享《一念 LLM 分布式推理优化实践》。介绍了“一念 LLM”设计思路、推理优化挑战与突破等，还对比不同框架，指出优化方向，如先实现 PP，再推进 EP 与 PD 分离。
预测下一个像素还需要几年？谷歌：五年够了
谷歌DeepMind研究者分析下一像素预测在图像识别与生成任务中的扩展特性。实验显示其扩展趋势与文本类似但效率低，最优策略因任务和分辨率而异，预计未来五年逐像素建模可行。
Google Research 开源新架构，AI 不再依赖云端，直接跑在手表和耳机上
Google Research 开源 Coral NPU 平台，是面向硬件工程师与 AI 开发者的全栈开源方案，可克服 AI 在可穿戴和边缘设备落地的瓶颈，实现能耗与算力平衡，还能解决算力、生态、隐私等问题。