「准周期算子」共找到 252 篇相关文章
腾讯混元AI Infra核心技术重磅开源:推理吞吐提升30%!
腾讯混元AI Infra团队开源生产级高性能LLM推理核心算子库HPC-Ops,基于生产环境痛点开发,降低底层算子开发门槛,实现显著性能突破。在真实场景下,混元、DeepSeek模型推理QPM提升,单算子性能也超越主流算子库。
存储大繁荣:盛宴与倒计时
AI带动存储行业繁荣,三星、美光、SK海力士一个月内登顶万亿美元市值,终结旧周期格局。中国长江存储和长鑫科技崛起,补全产业链拼图。但行业新旧范式切换,周期未终结,各方需应对挑战。
破局大模型推理困局!华为张君详解昇腾“融合算力”的优化秘籍
华为高级开发工程师张君在AICon大会演讲,围绕大模型推理优化,从模型、框架、算子层展开,结合案例阐述技术方案。分析大模型推理现状挑战,介绍加速技术,分享昇腾硬件算子优化实践及通算融合算子优化方法。
存储的超级周期,缺货潮将贯穿2026年?
近期存储市场火热,价格飞涨,下游厂商面临成本压力。缺货潮或贯穿2026年,因AI需求爆发,三大厂商减产DDR4等产能。其他厂商难补缺口,华邦虽有扩产计划但周期长。端侧AI发展对存储有新要求,华邦布局相关产品。
昂瑞微IPO:以战略定力穿越周期,构建射频前端国产化新范式
在全球半导体行业波动与技术创新背景下,昂瑞微IPO受关注。它技术攻坚突破L - PAMiD,构建‘双轮驱动’,布局车载与卫星通信新赛道,以战略定力穿越周期,为国产芯片发展注入活力。
比10年专业医生准4倍!微软发布突破性医疗AI系统
微软首席执行官分享新发布的医疗AI系统MAI - DxO,它模型无关,能适配不同语言模型,模拟医生诊断流程。测试显示其准确率远超专业医生,成本大幅下降。此外还发布序贯诊断基准SDBench。
昇腾+鲲鹏联手上大招!华为爆改MoE训练,吞吐再飙升20%,内存省70%
最近华为在MoE训练系统给出算子和内存优化新方案,三大核心算子全面提速,系统吞吐再提20%,Selective R/S实现内存节省70%,为大规模MoE模型训练扫清障碍。
AI Infra进阶:如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略,因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响,给出vLLM实现Batch Invariance的方法。
就业恶化AI不背锅!经济大周期下AI取代的技能依然很重要
研究表明就业市场恶化早于生成式AI普及,高AI暴露职业失业风险在2022年初就上升。毕业生求职困境源于宏观经济周期,且掌握与AI能力重叠技能,在后ChatGPT时代反而能提升起薪、缩短求职期。
诺奖得主用AI凭空造出基因剪刀,比进化几十亿年的那把还准
7月16日,《Nature》刊出消息,诺奖得主Jennifer Doudna团队用AI造出自然界不存在的CRISPR酶,改了30%的序列仍能用,比天然版本更精准。创业公司Profluent也生成全新Cas9,脱靶编辑率大幅降低。