昇腾 NPU」共找到 75 篇相关文章

产品应用8

安谋科技发布“周易”X3,一场“中庸”的突围 | 甲子光年

11月13日安谋科技发布“周易”X3 NPU IP,专为端侧AI打造。当前端侧AI市场不确定大,芯片设计难平衡专用与通用。“周易”X3采用DSP+DSA融合架构,转向混合浮点,提升带宽,搭配开放软件平台,在多方面找到平衡。

甲子光年
新闻资讯7

刚刚,梁文锋被曝史上首次融资!DeepSeek V4彻底摆脱英伟达

外媒曝出DeepSeek正寻求首次外部融资,以不低于100亿美元估值筹集至少3亿美元。V4规模和野心远超前代,参数量达万亿,将运行在华为昇腾芯片上,若成功将脱离英伟达生态。

新智元
新闻资讯8

万物皆可AI的时代?Arm发布全球首个Armv9边缘AI计算平台

Arm发布全球首个Armv9边缘AI计算平台,核心是Cortex - A320 CPU和Ethos - U85 NPU,能让小设备本地运行超10亿参数AI模型。边缘AI市场增长快,Arm转型切入,平台软硬结合优势明显,还有豪华朋友圈支持。

AIGC开放社区
新闻资讯8

微软刚发布Mu模型:支持Windows智能体,小参数跑出10倍性能

今天凌晨微软发布创新小参数模型Mu,3.3亿参数性能比肩Phi - 3.5 - mini,体量小10倍,离线NPU笔记本每秒超100 tokens响应。它支持Windows智能体,架构有多项创新,经训练优化后智能体表现出色。

AIGC开放社区
新闻资讯7

英特尔“混改”、H20停产,芯片业要变天了?

从英特尔“国家队”身份转变,到英伟达在中国市场反复横跳,再到中国本土芯片力量价值重估,揭示全球半导体产业全球化分工体系正被国家意志重塑,还阐述了国内外芯片市场的变化及企业价值重估情况。

芯师爷
产品应用8

华为曝光两大黑科技!打破推理延迟魔咒,大模型从此「秒回」

华为通过FusionSpec和OptiQuant两大技术创新,对MoE模型进行推理优化。FusionSpec依托昇腾特点,将投机推理框架耗时降至1ms;OptiQuant支持灵活量化,为大模型推理提供高性价比。

新智元
新闻资讯8

时隔多年,AI芯片又是华为发布会主角了

华为全联接大会上,轮值董事长徐直军带来全球最强算力超节点和集群。公布昇腾、鲲鹏芯片未来2年演进规划,还开创灵衢互联协议。虽单芯片受限,但集群层面有望实现超越。

量子位
开源动态8

大模型能否为不同硬件平台生成高性能内核?南大、浙大提出跨平台内核生成评测框架MultiKernelBench

深度学习计算依赖底层内核,当前多由开发者手工编写。南大、浙大推出开源评测框架MultiKernelBench,打破现有评测基准局限,构建模块化评测体系,多模型实测,还指出LLM短板并明确未来方向。

机器之心
新闻资讯7

AI Infra 工程师们如何应对大模型流水线里的“暗涌”?

InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。

AI前线
产品应用8

华为升级行业Agent算法架构!MindScale自己写prompt和工作流,KV Cache减少5.7倍token

华为诺亚方舟实验室更新面向行业应用的算法包MindScale,融合算法创新与业务实践经验。它梳理了Agent时代技术挑战,给出技术论文与昇腾代码,应对工作流维护等难题,还提升训推效率、适配国产硬件。

量子位