「推理与计算」共找到 8173 篇相关文章

推荐文章7

图解Vllm V1系列5:调度器策略(Scheduler)

本文是图解Vllm V1系列5,聚焦调度器策略。先回顾vllm v1整体运作流程,接着阐述调度 - 推理的整体流程,包括将请求添加进Scheduler、Scheduler单步调度策略等,还对比了不同场景下的函数及调度逻辑。

GiantPandaLLM
开源动态8

万亿思考模型新速度!蚂蚁开源Ring-2.5-1T:IMO金牌水平,强;混合线性架构,快!

蚂蚁集团发布全球首个开源混合线性架构万亿参数模型Ring - 2.5 - 1T,打破深度思考牺牲推理速度和显存的‘不可能三角’。还同期发布扩散语言模型LLaDA2.1和全模态大模型Ming - flash - omni - 2.0,想做成可复用底座。

量子位
新闻资讯8

一年拿下三轮融资!影目INMO正在鼻梁上“复刻”一个AI手机

影目INMO在一年拿下三轮融资,近5亿资金到位。其产品INMO GO3等表现出色,首发预订量可观。该公司专注轻量化一体式AI+AR眼镜,结合自研系统与智谱大模型,还拓展线下渠道,全球化布局也在推进。

量子位
产品应用8

Leogra AI:BVP 投资的欧洲版 Harvey,给每位律师配一位协作 Copilot

本文介绍瑞典法律AI公司Legora,其获1.5亿美元C轮融资,估值18亿。它让律师与AI并行工作,产品覆盖审查等环节。文中还阐述法律科技变革,以及其商业模式、竞争风险、团队文化和全球化策略等。

海外独角兽
产品应用8

只用国产GPU训练的大模型性能飙升100%!国内唯一,更懂你

科大讯飞发布全国产算力训练的讯飞星火X1.5,推理效率暴涨100%,综合性能跻身全球顶级。还首发非自回归语音大模型架构,效果提升、成本降低。此外,展示多领域应用成果,发布相关产品,开源智能体平台。

新智元
新闻资讯7

Meta AI大裁600人,亚历山大王操刀重点砍向LeCun团队

Meta AI大裁员600人,老牌实验室FAIR是重灾区,新成立的TBD Lab未裁员还招人。新任首席AI官亚历山大王操刀,称部门官僚化需重组。扎克伯格对AI进展焦虑,LeCun或辞职务,还撇清与Llama关系。

量子位
开源动态8

万亿级思考模型,蚂蚁首次开源!20万亿token搅局开源AI

10月14日蚂蚁集团发布万亿参数思考模型Ring-1T,在多领域表现出色,推理能力直逼闭源巨头。此前已开源旗舰通用大模型Ling-1T。还介绍了训练技术创新,虽模型有不足,但开源夺冠证明‘思考力’可工程化。

新智元
新闻资讯7

81岁甲骨文创始人冲上首富!难怪马斯克念念不忘OpenAI

美股开盘后甲骨文股价一度狂飙43%,将81岁创始人拉里·埃里森送上全球首富宝座。因甲骨文披露与OpenAI的3000亿美元算力采购协议,此合同属“星际之门”计划,对双方而言是高风险豪赌。

量子位
产品应用7

6 个关键维度:如何把 OpenClaw 工程化为企业可控生产力平台。

文章探讨如何将 OpenClaw 工程化为企业可控生产力平台,从多租户与共享、安全管控、企业应用集成等六个维度进行系统化设计,给出不同场景适用模式及管控思路,助力其在企业安全、高效运行。

AI大模型应用实践
产品应用7

求稳的安全IP,安谋科技如何守正出奇?|甲子光年

12月24日,安谋科技推出新一代SPU IP——“山海” S30FP/S30P,给出面向高性能计算芯片的全栈安全解决方案。该方案从硬件IP层、软件中间件到云端服务构建一栈式安全防护体系,有五大核心亮点。

甲子光年