「GPU算力」共找到 1072 篇相关文章
NeurIPS 2025 Spotlight | FSDrive统一VLA和世界模型，推动自动驾驶迈向视觉推理
面向自动驾驶的多模态大模型存在问题，FSDrive提出“时空视觉CoT”，让模型“以图思考”，联合未来场景与感知结果进行可视化推理。该方法在不改动原有MLLM架构前提下激活图像生成能力，实验表现出色。
FriendliAI获2000万美元，以加速AI模型推理工作负载
专注AI推理的初创平台FriendliAI获2000万美元种子扩展轮融资，资金用于加速平台开发。其专有推理优化技术可降低模型运行成本和能耗，能为用户省90%的GPU成本，合作客户广泛。
唯快不破：上海AI Lab 82页综述带你感受LLM高效架构的魅力
大语言模型性能提升但成本高，制约落地应用。上海AI Lab联合多家机构总结440余篇论文，形成82页综述，将LLM高效架构分为7类，探讨最新进展，还涉及线性化技术、硬件实现等内容。
DeepSeek一句话让国产芯片集体暴涨！背后的UE8M0 FP8到底是个啥
DeepSeek V3.1发布后，官方留言提及新架构和下一代国产芯片，引发AI圈轰动，国产芯片企业股价上涨。文章介绍了UE8M0 FP8概念，分析其适配国产芯片原因，还猜测适配的芯片厂商，指出代表国产AI走向软硬协同。
谷歌最新「0.27B」Gemma 3开源！身板小却猛如虎，开发者直呼救命稻草
大模型时代开发者算力焦虑严重，谷歌Gemma 3系列另辟蹊径。新成员Gemma 3 270M参数规模小但性能强，如在IFEval测试表现突出，有小体积强架构、省电等亮点，适用于多场景。
AI 时代操作系统的三重叙事：技术重构、国产化突围与生态共建
《AI 进化论：智算时代操作系统的破局之路》首期，周明辉、马涛围绕 AI 对操作系统的影响等核心命题展开对话。指出 AI 让操作系统面临挑战，技术演进分两条路径，还谈到安全、国产化、生态共建等问题。
传言：华为版 DeepSeek R2 本月发布
据 Huawei Central 报道，DeepSeek R2 可能本月 15 至 30 日发布，运行在华为 Ascend 910B 集群，硬件利用率 82%，算力 512 PetaFLOPS FP16，效率达 A100 的 91%，将与 ChatGPT 5 竞争，但消息未证实。
【博客转载】CUDA Reduction
文章来自Lei Mao，介绍CUDA归约操作。先阐述归约操作在并行计算中的常见性，接着实现两个批量归约求和kernel，还给出构建和运行示例的命令及结果。最后探讨大数组归约求和的方法及性能影响。
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，在 GitHub 获近 15K Stars，月均下载超 10 万次，被多家行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享技术、挑战等，6 月 27 - 28 日他将在 AICon 演讲。
港科联合港中文提出AdaCtrl，自适应可控Reasoning，可降10~90%
港科联合港中文提出AdaCtrl，解决LLM推理的过度思考、算力浪费和响应延迟问题。它有自适应和用户控制两种模式，通过两阶段训练法实现目标，实验效果好，未来或拓展到多领域。