「高性能芯片」共找到 3858 篇相关文章
[Triton编程][基础]vLLM Triton Merge Attention States Kernel详解
文章详细介绍vLLM中Triton Merge Attention States Kernel的实现,与PyTorch原生实现对比,该Triton kernel最高可实现3 - 5倍以上算子加速。内容涵盖Merge Attention States概念、PyTorch实现、Triton基础算子、分析及性能评估等。
当云计算开始在硅谷“造星”,一场自我革命开始了
亚马逊云科技在2025 re:Invent大会尽显号召力,新锐Decart AI、TwelveLabs等借其技术蹿红,苹果也分享成果。它还进行自我革命,优化性能,构建生态,其中国行也即将开启。
最新W4A4KV4全量化框架,单卡A100大模型推理速度飙升
计算所王颖研究员团队等联合在ASPLOS 2025上发表并开源COMET框架,通过系统 - 算法协同优化,实现全4比特推理性能突破,在多方面有技术亮点,实测性能碾压现有方案且已开源。
别跟风买Mac Mini了!国产算力跑OpenClaw,只需5分钟
最近,Clawdbot爆火,OpenClaw仓库Stars涨至13万,但运行它消耗大,很多人用Ollama拉取本地模型。不过,Ollama只支持部分生态,国产芯片用户面临挑战。2026年2月2日开源的玄武CLI可解此难题。
DeepSeek开源的文件系统,是如何提升大模型效率的?
2月28日,DeepSeek开源高性能分布式文件系统3FS以解决人工智能训练和推理挑战。介绍了分布式文件系统优势,深入解读3FS的组件、CRAQ协议等,还探讨其与其他系统差异及性能相关问题。
8家国产芯无缝衔接DeepSeek-V4,中国AI算力生态的拐点来了!
4月24日DeepSeek-V4预览版发布,华为昇腾等八家国产AI芯片厂商同日完成全链路适配与性能优化。这得益于FlagOS开源软件栈,也因DeepSeek主动适配策略。后续竞争将转向软件生态完整度。
八爪鱼微电子凭AI160-PRO再获行业权威认证
全国五金工业信息中心数据显示,八爪鱼微电子在指纹模组应用领域领先。其AI160 - PRO灵犀指纹模组有自研算法,识别佳;OP2088芯片算力强。公司坚持‘感算一体’,获认证见证国产技术发展。
AI时代终端大变局
随着算法、芯片、场景深度融合,端侧AI计算成终端智能化核心引擎,重塑IoT终端应用场景智能体验。端侧AI芯片作为技术底座,正重塑终端产业格局,虽面临挑战,但未来前景广阔。
摩尔线程的野心,不藏了
上市15天后,摩尔线程在首届聚焦全功能GPU的开发者大会上,围绕MUSA推出诸多新品,包括新GPU架构、芯片、智算集群和硬件产品,还将开源核心组件,构建生态,其架构创新定义未来AI产业格局。
RAE+VAE? 预训练表征助力扩散模型Tokenizer,加速像素压缩到语义提取
近期,RAE 提出以「 冻结的预训练视觉表征」作潜空间提升扩散模型性能。同期西安交大与微软亚研院提出 VFM - VAE,结合 RAE 与 VAE,能加速模型收敛、提升生成质量,展示扩散模型 Tokenizer 演化方向。