计算量降低」共找到 2034 篇相关文章

新闻资讯8

黄仁勋的中国搭子,打造3000亿市值半导体龙头

2025年5月黄仁勋宴请AI供应链伙伴,胜宏科技董事长陈涛是唯一大陆企业家。英伟达AI服务器七成PCB来自胜宏,因其技术与产优势。陈涛创业坎坷,靠技术赌注和军事化管理让胜宏崛起。

芯师爷
开源动态7

梳理SGLang中DP Attention及其Padding问题

作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程,指出padding分max和sum模式,旧版sum padding浪费计算、影响cuda graph使用,v0.4.10后有优化,max padding仍待完善。

GiantPandaLLM
产品应用8

Qwen3.8-Flash:全新架构,更强更稳更划算

本文介绍了 Qwen3.8-Flash 多模态 MoE 模型,它原生支持 262,144 token 上下文。该模型在 Attention、Residual、Embedding 与 Optimization 四个方面系统升级,降低训练与推理成本,即将上线千问 AI 平台。还发布了 Qwen3.8-Flash-Next 开源权重。

千问大模型
新闻资讯7

Token需求狂飙千倍,22亿热钱涌向这家AGI Infra头号玩家

在AI基础设施成风口的背景下,国内AGI Infra头部玩家无问芯穹获超7亿融资,其Token调用爆发式增长。随着AI产业进入Agent阶段,传统架构难适配新需求,无问芯穹以中立定位成Token经济枢纽。

量子位
新闻资讯7

10岁孩子都能训机器人!对话松应科技创始人:做物理AI界的“安卓”挑战英伟达,正将其开源开放

松应科技创始人聂凯旋表示团队对标英伟达,四年达其主流能力,产品落地多家企业。松应发布 ORCA Lab 1.0 开发者版,降低具身智能研发门槛。其采用开放生态,构建数据策略,目标培养物理 AI 人才,推进自主创新。

AI前线
产品应用8

Agent 跑分追平 Codex、成本低至 1.95 美元,这家中国公司做到了

德勤报告显示86%多Agent项目落地失败,硅谷也出现‘无限智能体死循环’。EvoMap团队的EvoX采用‘蜂群式自进化’打法,系统容错率翻倍、完成率跃升,成本大幅降低。跑分追平Codex,还展现出自组织潜力。

AI科技评论
新闻资讯8

开发者冲爆了!全球前十AI Lab无限免费,一周烧出3.12万亿Token

6月1日,全球模型榜单前十的Agnes AI无限期免费开放旗下核心全模态模型API,引发开发者热情。两周后周调用达3.12万亿Token,本周还将升级,周五补齐语音全模态链路,开源社区也围绕其开展诸多项目。

新智元
推荐文章8

CUDA-MODE第77课课程笔记:用于GPU kernels的DSL

该课程笔记由Tri Dao介绍GPU kernel开发的DSL生态,涵盖PyTorch、Triton、Cute - DSL等。提出计算效率评估公式,对比不同DSL在Softmax、GEMM等操作的性能。还提及其他DSL工具与Triton扩展项目,并给出使用建议。

GiantPandaLLM
产品应用7

“客户测950,不到一周下单了”,DeepSeek V4 逼出昇腾真功夫

昇腾计算业务副总裁张良透露昇腾近期销好、认可度提高,大客户基于其做训练。DeepSeek V4 考验昇腾,其超节点产品均支持。昇腾还对芯片体系和软件栈升级,拒绝仿 CUDA,坚持自主构建生态。

AI前线
产品应用7

融云首发“通信+AI”闭环架构,让 AI 有情商、能落地|甲子光年

8月28日融云在AIM线上发布会推出“通信+AI”产品矩阵,围绕“能落地的好AI”理念打造高情商AI。通信与AI相互增强,构建四层知识体系数字分身,其产品可解决多场景痛点,还能降低开发门槛。

甲子光年