「GPU显存」共找到 468 篇相关文章
从分钟级等待到20倍超速：LightX2V重写AI视频生成速度上限
今年，开源项目LightX2V在ComfyUI社区走红，单月下载超170万次。它是面向低成本、强实时视频生成的推理技术栈，能在消费级显卡上高效生成视频，还支持多种模型和硬件，覆盖不同用户需求。
5Y News｜祝贺摩尔线程成功登陆科创板！
2025年12月5日，摩尔线程在科创板上市，成中国首家登陆资本市场的全功能GPU企业。它以自主创新为根基研发芯片，构建起技术体系，商业表现佳，上市募资将投入芯片研发，助力国家数字经济发展。
关键技术详解｜腾讯一念 LLM 分布式推理优化实践
InfoQ 邀请袁镱分享《一念 LLM 分布式推理优化实践》。介绍了“一念 LLM”设计思路、推理优化挑战与突破等，还对比不同框架，指出优化方向，如先实现 PP，再推进 EP 与 PD 分离。
刚刚，OpenAI官宣自研造芯，联手博通开发10吉瓦规模的AI加速器
今天凌晨，OpenAI宣布与博通战略合作，共同部署其设计的10吉瓦规模AI加速器，预计2026下半年起部署机架，2029年底完成。此次合作将减少其对英伟达GPU依赖，采用多元化算力策略。
一颗 1.8 纳米芯片，成了英特尔「最后的救赎」
2025年10月9日，英特尔公布基于18A工艺的酷睿Ultra系列第三代处理器Panther Lake。它集成多部件，性能提升大，还将用于机器人等。此前英特尔危机四伏，此产品发布意义重大，成败影响深远。
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
FriendliAI获2000万美元，以加速AI模型推理工作负载
专注AI推理的初创平台FriendliAI获2000万美元种子扩展轮融资，资金用于加速平台开发。其专有推理优化技术可降低模型运行成本和能耗，能为用户省90%的GPU成本，合作客户广泛。
AI 时代操作系统的三重叙事：技术重构、国产化突围与生态共建
《AI 进化论：智算时代操作系统的破局之路》首期，周明辉、马涛围绕 AI 对操作系统的影响等核心命题展开对话。指出 AI 让操作系统面临挑战，技术演进分两条路径，还谈到安全、国产化、生态共建等问题。
【博客转载】CUDA Reduction
文章来自Lei Mao，介绍CUDA归约操作。先阐述归约操作在并行计算中的常见性，接着实现两个批量归约求和kernel，还给出构建和运行示例的命令及结果。最后探讨大数组归约求和的方法及性能影响。
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，在 GitHub 获近 15K Stars，月均下载超 10 万次，被多家行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享技术、挑战等，6 月 27 - 28 日他将在 AICon 演讲。