「高性能Kernel」共找到 3432 篇相关文章
英伟达推出下一代计算平台Rubin:可用45°C的热水进行冷却,训练速度提高3.5倍
英伟达黄仁勋在CES演讲,宣布进入自动驾驶领域、推出Alpamo模型与下一代计算平台Rubin。他指出计算行业正经历平台性转变,还介绍AI进展、应用架构,Rubin平台性能强且能效高。
阿里新研究:统一了VLA和世界模型
阿里达摩院等提出WorldVLA框架,融合视觉语言动作模型与世界模型。它用三套分词器编码,解决传统自回归模型问题,经联合训练,实验显示其性能优,两模型还能相互助力。
大模型优秀大脑齐聚硬核开源聚会,SGLang社区举办国内首次Meetup
10月25日,SGLang联合美团、亚马逊云科技在北京举办国内首场Meetup。SGLang是开源高性能推理引擎,特性丰富。活动中大咖和开发者分享见解、进展、应用场景,展现其社区活力与发展潜能。
大模型“记性差一点”反而更聪明!金鱼损失随机剔除token,让AI不再死记硬背
马里兰大学等团队提出金鱼损失法,训练时随机剔除部分token,让模型不逐字记内容,仍学语言规律。实验显示,LLaMA - 2用该方法后记忆内容减少,下游任务性能影响小。
DDR4持续涨价,DDR5成为新的性比价之王?
近期DDR4价格持续上涨,其告别性价比,原因是存储巨头战略转移。而DDR5性能强、功耗低,实测表现优,价格也有优势,已成为新的“性价比之王”,替代DDR4是大势所趋。
DeepMind揭示Reasoning内在机制
近年来大型推理模型在复杂任务表现出色,但推理机制成谜。本文提出用推理图解码其‘思考轨迹’,分析环状结构、直径大小和小世界特性,发现蒸馏模型等特点,为理解AI推理及模型优化指明方向。
SGLang 推理引擎的技术要点与部署实践|AICon 北京站前瞻
SGLang 是开源推理引擎,截至 2025 年 6 月,GitHub 近 15K Stars,月均下载量超 10 万次,被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升,他分享关键技术等内容,6 月 27 - 28 日他将在 AICon 演讲。
软银与英特尔合作,开发AI存储芯片
Nikkei消息,软银与英特尔宣布成立合资公司Saimemory,开发适用于AI的堆叠式动态随机存取存储器原型,目标两年内降低50%功耗,实现与高带宽内存相当性能。双方注资7000万美元,各有布局目的。
A社旗舰Fable 5卖不动了。。两款神秘新模型已现身
支付平台Ramp统计显示,A社旗舰Fable 5上线两月销量不佳,收入仅占整体的11.4%。其价格高、性价比低,拖累公司收入未达预期。同时,X上出现Claude的两个神秘内测代号,或几周内上线。
斯坦福×英伟达发布AI推理新范式,刷新了多领域SOTA
斯坦福与英伟达联合发布论文 TTT - Discover,提出新范式,不追求通用,在推理阶段针对特定难题修改模型参数。它战绩辉煌,但成本高、是偏科生且需打分器,其出现是技术与哲学的突破。