计算规模」共找到 1094 篇相关文章

算法论文8

为MoE解绑:全新「专家即服务」推理架构发布,超细粒度扩展锐减37.5%成本

近年来大模型推理开销增长,MoE架构虽能避免计算量同比增,但带来扩展性差、容错性低、负载不均等问题。为此作者提出全新「专家即服务」推理架构EaaS,实验显示它能锐减37.5%成本。

机器之心
开源动态8

8B硬刚72B!MiniCPM-V 4.5技术报告正式出炉

行业首个具备“高刷”视频理解能力的多模态模型MiniCPM-V 4.5技术报告发布,提出三项关键技术,使模型在多任务达同级SOTA,8B参数规模超72B模型,推理快,开源后获社区好评。

量子位
新闻资讯7

谁在重新定义 AI 云?

过去几年,AI成云计算行业统一叙事,但厂商口号趋同,差异化消解。当下AI从“炫技”走向“应用”,华为云在全联接大会2025上提出新组合,回应行业成本、基建和应用难题,不过路径也面临挑战。

AI科技评论
新闻资讯8

刚刚,Thinking Machines Lab首次发长文,揭开LLM推理不确定性真相

Thinking Machines Lab发长文《克服LLM推理中的不确定性》,指出大语言模型推理不确定性的真正元凶是缺乏批次不变性,还解释核函数计算中数字加法顺序问题,介绍使核具有批次不变性的方法并给出实验结果。

机器之心
新闻资讯7

人形机器人市场,电池厂商看不上|甲子光年

市场认为人形机器人会成动力电池厂商‘第三增长极’,但厂商却不看好。因该市场规模小、无标准、研发成本高、利润低,且机器人续航差、商业逻辑不明,提前布局回报难测,对厂商是赔本买卖。

甲子光年
新闻资讯7

十载磨「芯」:云天励飞冲击港股AI推理芯片第一股

7月30日,云天励飞向港交所递交H股上市申请,迈向“A+H”新阶段。它是中国首家实现国产高算力AI推理芯片商业化的公司,坚持“全自研、国产化”,现进一步聚焦AI推理芯片,构建“1+N”业务架构。

芯师爷
产品应用7

PolarDB Supabase Edge Functions - 让函数,随时可用

文章介绍 PolarDB Supabase Edge Functions,它是为全栈应用打造的边缘计算方案。提供 CLI 和 Studio 两种开发方式,补全开源版缺失的管理后台,让企业能兼顾功能与控制力,还提及数据库原生多模态智能检索方案。

阿里云开发者
推荐文章7

破局大模型推理困局!华为张君详解昇腾“融合算力”的优化秘籍

华为高级开发工程师张君在AICon大会演讲,围绕大模型推理优化,从模型、框架、算子层展开,结合案例阐述技术方案。分析大模型推理现状挑战,介绍加速技术,分享昇腾硬件算子优化实践及通算融合算子优化方法。

InfoQ
开源动态8

北大、字节跳动联手发布SWE-Swiss:一把修复代码Bug的「瑞士军刀」,完整配方直指开源SOTA

北大、字节跳动等联合研究提出SWE - Swiss配方,用于训练解决软件工程问题的AI模型。32B参数的SWE - Swiss - 32B在SWE - bench Verified上准确率达60.2%,各训练环节效果显著,模型和数据将开源。

机器之心
开源动态8

面向6G环境感知通信!西电开源3Dx3D无线电地图数据集与生成式基准框架

面向6G,西安电子科技大学等团队联合提出高分辨率多模态三维无线电图谱数据集UrbanRadio3D,构建三维无线电图生成框架RadioDiff-3D,弥补了当前主流RM构建方法与数据集的局限。

新智元