「本地硬件」共找到 776 篇相关文章
硅谷AI巨头越来越像一家重工业公司
Meta和CBRE推出LevelUp光纤技术员培训项目，为数据中心培养新手。此外，Google、Amazon、Microsoft也有类似职业教育项目。同时，这些超大规模云服务商还在电力、硬件、连接等方面自建自用，呈现垂直一体化趋势，但资本市场仍按软件公司给它们估值。
人民想念DeepSeek
文章探讨AI时代Token相关问题。指出其消耗大、价格贵，存储价格上涨使Token降价缺杠杆，虽模型能力提升、MFU优化可降本，但传导到C端取决于商业考量。还回顾大模型价格战，介绍本地部署及芯片创新方案。
MoE RL 实战：统一 FP8 全流程训练
SGLang RL 团队等实现 RL 全流程 FP8 训练与采样，消除训推不一致性。介绍 FP8 硬件基础、格式等，分析训练难点，定位 KL Loss 异常源于量化原理，验证其在 MoE 模型 RL 场景优势，指出模型规模与训推不一致的关联。
AI写CUDA算子准确率92%，到国产芯片只剩4%？上交方法直线拉升，DeepSeek也适用
GPT-5.2写CUDA算子正确率92%，给华为Ascend NPU写算子仅4%，因公开数据少等致‘新硬件冷启动’难。上海交大团队EvoKernel不训新模型、不标新数据，将GPT-5.2正确率从4%拉到83%，还拓展到DeepSeek架构算子。
智谱新模型也用DeepSeek的MLA，苹果M5就能跑
智谱AI上市后发布新成果，开源轻量级大语言模型GLM-4.7-Flash，API免费开放调用。该模型是30B总参数、3B激活参数的MoE架构，定位为“本地编程与智能体助手”，评测表现佳，采用MLA架构，多平台支持。
阿里通义开源GUI智能体SOTA：2B到235B端云协同重新定义移动端GUI智能体
阿里通义实验室开源MAI - UI，通过端云协同架构等解决GUI智能体部署难题。它全谱系模型设计应对硬件约束，自进化数据管线和在线强化学习提升性能，端云协同平衡隐私与效率，扩展动作空间打破局限，在多基准测试创SOTA。
阿里云 Tair 基于 3FS 工程化落地 KVCache：企业级部署、高可用运维与性能调优实践
本文介绍阿里云 Tair KVCache 团队与服务器研发存储软硬件结合团队对 3FS 的工程化升级实践。从性能、产品、运维维度优化，为高性能 KVCache 在企业级 AI 场景落地提供范式，还提及未来 3FS 产品化及服务器硬件升级方向。
对话 Plaud 莫子皓：你还记得 PMF 的感觉吗？
本文是对Plaud中国区CEO莫子皓的采访。Plaud是全球成功的AI硬件Startup，产品大卖。莫子皓分享业务、增长原因，探讨PMF、产品形态迭代、功能亮点，还谈及产品定位、人群、未来计划及进入中国市场决策等。
MOE RL实战：统一FP8全流程训练
SGLang RL团队等联合完成工作，实现RL中全流程FP8训练与采样。介绍FP8训练硬件基础、格式、scale选择等，指出训练难点，分析KL Loss异常归因，验证其在MoE模型RL应用效果，还探究模型规模对训推不一致性的影响。
AGI新技术路线：下一代稀疏注意力机制Monte Carlo Attention开源
超对称技术公司开源了 Monte Carlo 注意力机制，用于新版基座模型 BigBang - Proton。它在二进制块编码技术上，用块间代表交流机制实现线性复杂度，解决了传统方法的缺点，可实现理论上无限的上下文长度，对现有预训练技术和硬件设计影响深远。