「GPU资源消耗」共找到 900 篇相关文章
FriendliAI获2000万美元，以加速AI模型推理工作负载
专注AI推理的初创平台FriendliAI获2000万美元种子扩展轮融资，资金用于加速平台开发。其专有推理优化技术可降低模型运行成本和能耗，能为用户省90%的GPU成本，合作客户广泛。
Scaling Laws起源于1993年？OpenAI总裁：深度学习的根本已揭秘
人工智能扩展定律（Scaling Laws）把模型性能和资源投入联系，是构建大模型的参考标尺。其起源说法不一，康奈尔博士生将其推至1993年贝尔实验室论文，OpenAI总裁称它揭示深度学习根本。
AI 时代操作系统的三重叙事：技术重构、国产化突围与生态共建
《AI 进化论：智算时代操作系统的破局之路》首期，周明辉、马涛围绕 AI 对操作系统的影响等核心命题展开对话。指出 AI 让操作系统面临挑战，技术演进分两条路径，还谈到安全、国产化、生态共建等问题。
Kubernetes环境中作业帮大模型服务流量调度优化实践
随着大语言模型应用渐广，Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案，整合成模型网关，具备五项核心功能，提升了资源效率、稳定性和易用性。
ICCV 2025 | 清华&腾讯混元X发现「视觉头」机制：仅5%注意力头负责多模态视觉理解
本文聚焦多模态大模型，提出基于 OCR 任务量化注意力头视觉偏好的方法，发现仅不到 5%“视觉头”主导视觉理解。还提出 SparseMM 策略优化 KV - Cache 资源分配，经多基准评测，性能和效率表现优。
【博客转载】CUDA Reduction
文章来自Lei Mao，介绍CUDA归约操作。先阐述归约操作在并行计算中的常见性，接着实现两个批量归约求和kernel，还给出构建和运行示例的命令及结果。最后探讨大数组归约求和的方法及性能影响。
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，在 GitHub 获近 15K Stars，月均下载超 10 万次，被多家行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享技术、挑战等，6 月 27 - 28 日他将在 AICon 演讲。
灵初智能陈源培：一个 00 后的机器人之梦
00 后陈源培是灵初智能联创，本科土木工程专业，大二因比赛对机器人感兴趣。他研究灵巧手，参与开源项目，灵初发布相关模型。他认为强化学习对灵巧手重要，还谈了模型、创业、落地等看法。
ICML 2025 | 无需训练，即时对齐大模型偏好
上海人工智能实验室提出TPO方案，可让大模型在推理时快速对齐人类偏好，无需更新模型权重。TPO类似文本形式的梯度下降，在多个基准数据集评测中表现出色，还提供“宽深结合”推理拓展策略。
【CIKM'2026】CQ-SID：LLM生成式检索在手猫搜索召回中的探索与应用
文章围绕LLM生成式检索在手猫搜索召回的应用展开。先点明当前搜索召回机制问题及生成式检索挑战，提出CQ - SID等方法，经实验验证其效果佳，还介绍了线上实验成果，最后展望未来探索方向。