「推理计算」共找到 2574 篇相关文章
DeepSeek研究员1200行代码复刻vLLM,H800硬件实测性能反超原版
DeepSeek研究员俞星凯搞出开源项目Nano - vLLM,仅用不到1200行代码实现最小化且完全可读的vLLM。它有快速离线推理、代码可读性强、含优化套件等特点,在H800硬件实测中性能反超原版vLLM。
Meta 重磅提出「神经计算机」:模型即电脑
Meta AI和KAUST提出「神经计算机」概念,目标是让神经网络承担计算、内存、输入输出。论文给出完整框架并做原型验证,虽当前原型距目标差距大,但提出问题和定义框架意义重大。
GPT-5.4发布,AI的最强之争已经结束了!
GPT-5.4发布,作者对比OpenAI、Anthropic、Google三家模型数据发现它们不在同赛道。GPT-5.4适合白领工作,Claude擅编程,Gemini重推理与性价比,且OpenAI因合同问题流失用户。
【万字长文】大模型开源开发全景与趋势解读
本文以蚂蚁开源团队视角,基于OpenDigger数据,分析大模型开源开发生态。呈现2025年全景图,涵盖135项目。指出训练、推理、应用侧主导领域,还探讨生态趋势、项目兴衰及近期厂商动态。
AGI只是硅谷的幻想?!AI科学家盛赞中国,并从物理学角度宣告我们永远造不出AGI
AI科学家Tim Dettmers在博客发文指出,计算需遵循物理定律,线性进步要消耗指数级资源,硬件升级红利已尽。他认为美国追求超级智能短视危险,中国重应用普及更务实,AGI不会发生,超级智能是幻想。
Day0迁移、一键部署,华为开源的昇思MindSpore成为大模型开发的“万能钥匙”
在大模型无法一统天下的背景下,开发者面临在一个框架、生态体验众多主流大模型和AI技术的难题。华为开源的昇思MindSpore可实现训练Day0迁移、推理一键部署,还介绍了其相关技术和实测效果。
刚刚,OpenAI新Transformer火了!Astra架构首次曝光
OpenAI下一代Astra采用「循环深度」推理方法,思考Token减少但性能提升,不过其思考过程难监控。此前业界已对「循环Transformer」有研究,该架构适合数学编程任务,Astra实力获验证,GPT - 6或即将发布。
商汤SenseNova U1深度拆解,原生统一架构终结缝合时代
文章深度拆解商汤科技开源的新一代模型「日日新 SenseNova U1」,介绍其基于 NEO - Unify 原生统一架构,在数据、训练与推理深度协同,多维度测试成绩亮眼,代表多模态从拼接走向原生建模新方向。
中国九章4.0量子计算机再破世界纪录,比超算快10的54次方倍
中国科学技术大学潘建伟院士团队在Nature发表论文,展示九章4.0量子计算机,它用光子计算,在解决高斯玻色取样问题时比超算快10的54次方倍,还攻克两大核心技术,有重要应用潜力。
AGI只是硅谷的幻想?!AI科学家盛赞中国,并从物理学角度宣告我们永远造不出AGI
AI科学家Tim Dettmers在博客文章中指出,计算须遵循物理定律,线性进步要指数级资源,硬件升级红利已尽。他认为美国追求AGI和超级智能不切实际,中国重应用普及更务实,AGI难以实现。