「硬件算力」共找到 1189 篇相关文章
马斯克狂烧14万亿,5000万H100算力五年上线!终极爆冲数十亿
马斯克宣布5年内实现5000万张H100的算力,成本超2万亿美元。他已有Colossus超算集群,Grok系列模型也展现强大实力。目前Colossus 2在分批落地,供电采取多元化措施。
解决算力瓶颈,给多模态瘦身!Token压缩完整图谱与选型指南
给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余,提升训练与推理效率。北大等团队剖析其全貌,给出完整图谱与选型指南,还揭示了未来演进路径。
极简RL新范式:一半算力刷新1.5B模型推理SOTA
过去为提升中小参数量模型推理能力,开发者构建复杂RL流水线。JustRL论文提出极简、单阶段、固定超参训练方案,在两主流1.5B模型上刷新SOTA,节省2倍算力,消融实验还揭示部分技巧会致性能退化。
AI大模型重塑学习硬件:从工具到伙伴 | 网易有道孟旭
网易有道词典笔产品负责人孟旭在AICon大会分享,以有道AI答疑笔为例,阐述智能学习硬件在大模型催化下从“学习工具”进化为“智能伙伴”,其发展呈“需求牵引 - 技术支撑 - 体验升级”螺旋路径。
震撼,马斯克联手老黄扔出星际大脑!AI算力中心射上天
SpaceX财报公布,携手英伟达推出轨道AI计算网络Starmind,将AI算力底座搬至太空,解决耗电与散热问题,还介绍了其卫星、优势及马斯克建造太空AI大脑的计划和野心。
AI 陪伴硬件的反共识讨论:主体性很重要,同质化竞争不存在
文章围绕AI陪伴硬件展开讨论,邀请创业者探讨产品角色定位、性别设定、用户反馈等问题。指出产品应注重主体性,避免破坏角色感,还提及应对同质化竞争、产品寿命、视觉研究等方面的思路。
13.8K star!!6G显存就能跑的AI视频神器,支持1分钟生成,这么6?!
现在AI视频生成领域仍面临高算力需求挑战,斯坦福大学研究团队推出`FramePack`项目,降低了本地AI视频创作硬件门槛,有低硬件需求、高效生成速度等特色,操作也简单。
黄仁勋:没有AI,英伟达依然是巨无霸!盛赞中国算力与能源优势
英伟达CEO黄仁勋在播客对话中称,即便AI未出现,英伟达靠加速计算也能成巨无霸。他盛赞中国算力与能源优势,反驳中国缺AI芯片的观点,还谈及错失与OpenAI等合作的经历。
OpenAI单月收入突破10亿美元!算力严重不足,急需“星际之门”
OpenAI首席财务官Sarah Friar透露7月单月收入破10亿美元,因GPT - 5发布和新订阅服务,算力压力大,所以联合投资打造“星际之门”。虽GPT - 5有争议,但订阅用户增长,开发者反馈好。
DeepSeek研究员1200行代码复刻vLLM,H800硬件实测性能反超原版
DeepSeek研究员俞星凯搞出开源项目Nano - vLLM,仅用不到1200行代码实现最小化且完全可读的vLLM。它有快速离线推理、代码可读性强、含优化套件等特点,在H800硬件实测中性能反超原版vLLM。