「硬件资源」共找到 863 篇相关文章
推理成本骤降75%!gpt-oss用新数据类型实现4倍推理速度,80GB显卡能跑1200亿参数大模型
OpenAI在gpt - oss开源模型采用MXFP4数据类型,使推理成本降75%,内存占用为BF16模型四分之一,生成token速度提4倍,还能降低硬件资源需求。不过MXFP4也有缺陷,英伟达推出NVFP4提升质量。
GPU到底是如何工作的?这篇AI Infra入门全部告诉你
本文详细介绍了GPU工作原理及编程模式。它从图形渲染发展到GPGPU,NVIDIA推动其通用计算。还阐述了CPU/GPU异构架构,对比二者性能,介绍编译、加载、启动过程,以及GPU硬件架构、编程与执行模型,分析SIMD和SIMT。
WRC 2026 深度复盘:具身智能的「卡脖子」难题,终于有解了
本文复盘WRC 2026,指出具身智能面临数据焦虑,数采方与模型方割裂,数据采集成本高、效率低、质量差。自变量推出QUANXTA Zero系列无本体数采方案,从模型需求反向定义数采硬件,形成数据闭环,还具备底层技术支撑。
英伟达官方推理指南来了!6倍无损加速,最优解全是华人写的
9月2日,英伟达技术博客上线《用投机解码做AI模型协同设计》,给出推理加速选型表。列入指南的核心方案多由华人团队主导,介绍了从外置草稿模型到n - gram查表法等方案,还提到硬件常数对模型架构的约束。
多快好省,Qwen3混合部署模式引爆MCP
文章介绍Qwen3混合部署模式在MCP中的应用。MCP是AI与外部交互的标准协议,解决传统问题。Qwen3性能强、成本低,有混合思维等特点。通过本地小尺寸和满血版结合部署,实现多快好省,但仍有资源消耗等不足。
黄仁勋2025都在投啥?出手50次,32家公司覆盖产业链闭环
2025年前三季度,英伟达参与50笔AI风投超去年全年。投资覆盖基础设施、模型厂商、应用等领域。其AI俱乐部有32家公司,分三档。英伟达鲜少领投,黄仁勋不信AI有泡沫,投资能锁定硬件订单。
Qwen3技术报告首次全公开!“混合推理模型”是这样炼成的
本文首次公开Qwen3技术报告,介绍其模型架构、预训练及后训练过程、性能表现等技术细节。Qwen3整合两种模式,引入思考预算机制,降低轻量级模型计算资源,在多基准测试领先,多语言支持扩展至119种,所有模型开源。
苹果不吹 AI,反而成功了?
北京时间9月10日苹果发布会,新款iPhone等产品更新。此次发布会多数环节AI几乎消失,与iPhone 16发布时大肆宣传不同。苹果因在智能体AI助手进展落后,重点放硬件及AI幕后支持。不过苹果仍承受分析师压力,且在AI竞赛中落后。
马斯克甩出两张王牌,Grok Build杀入AI编程
5月14日,xAI上线Grok Build编程智能体,这是马斯克补齐xAI编程短板的第一步。此外,马斯克亮出下一代基础模型Grok V9,它在参数规模、硬件平台、数据质量三方面做了重建。V9公开版上线后,Grok Build将与Claude Code、Codex正面竞争。
小美Agent:当龙猫遇到美团外卖的灾难现场
作者体验美团AI助手“小美”后吐槽不断。美团称其用有5600亿参数的龙猫大模型,能力接近GPT - 4o,但它理解需求差、操作订单无效、定位混乱。美团做AI是为跟风,未解决用户真需求,是资源浪费。