「执行速度」共找到 1177 篇相关文章

开源动态7

1200行代码逆袭!DeepSeek工程师开源轻量级vLLM,吞吐量逼近原版

开源 vLLM 可提升 LLM 推理速度和资源利用率。近日,DeepSeek 工程师俞星凯开源轻量级 Nano - vLLM,代码仅 1200 行,基准测试中吞吐量逼近原版,项目已在 GitHub 获 200 多 Star。

机器之心
开源动态8

妈妈再也不用担心延迟了!斯坦福手搓Llama超级内核,推理仅需0.00068秒

斯坦福Hazy实验室推出低延迟推理引擎「Megakernel」,将Llama - 1B前向传播融入单一GPU内核,H100上提速1.5倍,B200上每次推理仅0.00068秒,比vLLM快3.5倍。文章分析传统引擎问题并介绍Megakernel设计。

新智元
新闻资讯8

推理快,交付慢:“全球最大AI芯片”Cerebras的商业化考验

本文分析“全球最大AI芯片”厂商Cerebras的商业化现状,结合与OpenAI的合作动态、最新财报数据,拆解其晶圆级推理芯片的技术优势,同时点出其交付、现金流等核心考验,探讨推理芯片赛道的路线选择。

DeepTech深科技
新闻资讯7

DeepSeek又悄悄更新了?!实测:API突然变强

DeepSeek未发官方公告就悄悄更新模型,网友发现其deepseek-flash接口输出效果明显提升,本文整理了网友的实测对比结果,目前更新版本仍存多种猜测。

量子位
新闻资讯8

微软推出快速决策模型 Microsoft-Decision-1:让AI先做判断,再调用大模型

本文报道微软推出针对AI应用内部高频固定判断任务的快速决策模型Microsoft-Decision-1,介绍了其功能定位、测试表现与适用场景,说明它可配合通用大模型降本提速。

AIGC开放社区
新闻资讯8

Opus5.5代码直出视频刷屏!审美暴打GPT

本文报道Claude Opus 5.5突袭上线后,网友大量实测,用它纯代码生成视频、3D建模、UI、可交互游戏等内容,该模型性能提升价格下降,表现优于GPT等竞品,引发科技圈刷屏热议。

量子位
新闻资讯8

爆火一周后,Jev正式全面开放:一个“不会说话”的AI,为何风靡硅谷?

本文报道爆火硅谷一周的AI模型Jev正式全面开放,该模型由前OpenAI研究员团队打造,不同于传统大模型,不聊天不生成文本,仅做结构化判断,主打低成本快决策,引发开发者圈热议。

DeepTech深科技
新闻资讯8

今年 AGI 大会上,这 10 个创业团队最受关注

在 AGI Playground 2026 的 Founder Show 活动上,10 个创业团队展示项目,横跨 Agent 基础设施、Physical AI 等方向。如 Tap8 实时生成交互视频,EigenFlux 为 AI Agent 建网络,Aceii One 是 AI 网球机器人等。

Founder Park
产品应用7

AI for Science开始“动手”了:机器人正式走进国家级实验室

今年7月,国家级科研平台实验室迎来首批Monte2人形机器人,由源络科技与实验室联合研发。它能完成复杂实验操作,缓解人工瓶颈。全球自主实验室成趋势,源络发起“原点计划”推动AI for Science迈向实验室3.0。

量子位
新闻资讯7

微软叫停Tokenmaxxing!预算卡死,超限自负

从今年7月起,微软为各业务部门设「AI Token预算目标」,将GPT - 5.6设为内部默认模型。此前Tokenmaxxing风靡硅谷,如今大厂纷纷收紧AI使用,微软是最后跟进者之一。

量子位