「算力性能」共找到 2562 篇相关文章
DeepSeek流量暴跌?AI大模型全球霸主离奇遇冷,外媒曝出真相
曾以低价高性能出圈的DeepSeek,在自家平台遇冷、市场份额下滑,但其R1和V3模型在第三方平台使用量增长近20倍。背后是‘Token经济学’及战略转移,它开源模型,将算力留作研发。Anthropic也因算力受限有类似问题。
关于Pingpong和Cooperative的一些感性理解
作者团队在SGLang支持Hopper架构相关GEMM,经分析发现多数场景Pingpong调度策略性能优于Cooperative,K维度小的场景DeepGEMM性能优于CUTLASS。本文重点介绍Pingpong性能优势及Cooperative无法Overlap Epilogue的原因。
一半人明天不上班,GDP不会掉一点!耶鲁大学揭AGI残酷真相
耶鲁学者Restrepo论文指出,AGI时代经济因算力扩张狂飙,但普通人工资被「算力成本」锁死,与增长脱钩。劳动在GDP占比将归零,财富流向算力资本,人类或被边缘化到附属岗位。
剧情反转!马斯克牵手 Dario,Anthropic 与 SpaceX 罕见合作
Anthropic官宣与马斯克的SpaceX合作,将使用其超算集群全部算力。因Claude火爆致宕机,Anthropic急需算力。其估值疯涨,而SpaceX闲置算力出租也符合商业逻辑,马斯克还对Anthropic团队表示认可。
国产推理芯片,赢了英伟达?
算力市场风向生变,国产算力崛起。政策从资金、市场、规则多维度发力,为国产算力扫清障碍。在推理场景中,国产方案性价比更高。其独特分销体系使贸易环节信息透明度低,步入卖方市场,市场也迎来新局面。
马斯克懂王闹掰!70亿美元砸出全球最大AI超算巨兽,奥特曼偷笑太早
Epoch AI报告揭示,不到10年顶级AI算力或暴涨8万倍。马斯克与特朗普决裂,奥特曼或成受益者。xAI砸70亿美元打造全球最大AI超算Colossus,还分析了算力、成本、电力等趋势及格局变化。
黄仁勋搬来华尔街5000亿,买GPU可以按揭了
8月11日,英伟达宣布与六家金融机构合作,成立算力融资平台,欲动员超5000亿美元,把算力做成可融资生意。其将英伟达全栈AI基础设施当可投资资产,客户按需付费,但英伟达股价不涨反跌,这场豪赌结果待察。
腾讯混元AI Infra核心技术重磅开源:推理吞吐提升30%!
腾讯混元AI Infra团队开源生产级高性能LLM推理核心算子库HPC-Ops,基于生产环境痛点开发,降低底层算子开发门槛,实现显著性能突破。在真实场景下,混元、DeepSeek模型推理QPM提升,单算子性能也超越主流算子库。
Anthropic:这样构建Agent,性能提升90%!
Anthropic分享从0到1构建多智能体DeepResearch系统的方法,该系统是Claude内置Research功能。干货多,涵盖架构设计、Prompt工程等。多智能体性能比单模型高90.2%,但烧钱,适合高价值复杂任务。
推理时扰动高熵词,增强LLM性能
香港科技大学(广州)研究团队发现LLM推理时,一小部分高熵词显著影响输出正确性。基于此提出MTI方法,含Selective CFG intervention与Lightweight negative - prompt guidance,无需额外训练,能提升模型推理能力。