「GPU内核优化」共找到 1625 篇相关文章
谷歌TPU能撼动英伟达吗?前TPU工程师首次揭秘
在AI算力争霸时代,英伟达GPU市值狂飙,但蛋糕正被分食。前谷歌TPU工程师Henry揭秘TPU,从架构、产能、软件等维度分析其优缺点,指出在特定条件下TPU可挑战GPU,未来芯片市场将百花齐放。
流式数据集:效率提升 100 倍!
现在只需一行代码,就能通过 `load_dataset('dataset', streaming=True)` 以流式方式加载数据集,无需下载。Hugging Face 优化后端,提升流式数据集速度与效率,减少请求、提升解析速度,还优化启动和流式加载阶段。
马斯克22万张GPU全卖给Claude用:5小时限额翻倍,双方合作建太空算力
马斯克和Anthropic签署算力合作协议,将旗下Colossus 1超算集群全部给Claude用。此前马斯克抨击过Anthropic,合作后态度转变。此交易或改写AI算力格局,且三家计划IPO的公司故事也因此改写。
无需训练,即插即用,2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中,扩散模型成主流,但DiT模型注意力机制计算量大,成推理瓶颈。现有加速法效果不佳,为此美国东北大学等团队提出DraftAttention,可2倍加速推理且不损画质。
集合通信库VCCL释放GPU极致算力,创智、基流、智谱、联通、北航、清华、东南重磅开源
在超大规模智算集群需求下,创智、基流等多方联合开源集合通信库VCCL。它基于NCCL开发,有智能调度、容错、细粒度观测机制,实测能提升算力利用率、降低故障率,还解决了服务器异构等问题。
一篇最新自演化AI Agents全新范式系统性综述
传统LLM Agent工作流固化,面对动态环境只能人工硬编码,成本高、迭代慢。此55页综述提出“Self - Evolving AI Agents”新范式,让Agent自主优化自身结构,还给出三定律、统一框架及各类优化方法。
英伟达50亿美元入股英特尔,将发布CPU+GPU合体芯片,大结局来了?
9月18日英伟达与英特尔宣布达成合作,英伟达投资50亿美元购其股份。双方将合作开发多代定制数据中心和PC产品,包括定制CPU、集成RTX GPU的x86 SoC等,此前二者有竞争历史。
单GPU搞定高清长视频生成,效率×10!引入Mamba机制突破DiT瓶颈 | 普林斯顿&Meta
普林斯顿大学和Meta联合推出新框架LinGen,以MATE线性复杂度块取代传统自注意力,使单张GPU能在分钟级生成高质量视频。它在视频质量上优于DiT,减少FLOPs和延迟,与先进模型相当。
AI搜索优化(GEO):从“被看见”到“被选中”的7个真相!【必看】
白杨SEO分享AI搜索优化(GEO)从“被看见”到“被选中”的7个真相,含为何做GEO、竞争内容、让AI理解和信任品牌的方法、成默认推荐答案的条件、效果评估及长期坚持的原因等。
马斯克变身「算力包租公」!砸数万GPU疯狂喂养Cursor,联手反杀OpenAI
马斯克将xAI变成「算力包租公」,租数万GPU给Cursor训练模型,还挖来Cursor高管。同时,特斯拉AI5芯片流片成功,AI6也有规划,Dojo 3项目重启,他正用「硬件思维」重塑AI竞争格局。