「在离线混部」共找到 8278 篇相关文章

产品应用8

360安全云架构全解,AI智能体如何开启「主驾」新时代?

AI发展加速,网络安全危机加剧。360安全云在ISC.AI 2025大会发布新产品,提出“安全即服务”理念,打造AI驱动的四层架构,发布三大类智能体,为企业提供全生命周期价值交付的安全服务。

甲子光年
新闻资讯7

DeepSeek-R2可能本月发布,使用华为AI芯片

Huaweicentral消息,搭载华为昇腾AI芯片的DeepSeek - R2可能8月15 - 30日发布,或媲美GPT - 5。它运行在昇腾910B芯片集群,参数规模达1.2万亿,将以低价提供API,冲击开源大模型市场。

AIGC开放社区
新闻资讯7

OpenAI女CEO太狠了!智商148,GPT-5才是真印钞机

GPT-5智商高达148,在多基准测试表现亮眼获英伟达认可。OpenAI借“路由器”为ChatGPT商业化铺路,它能分流降成本、让免费用户接触深度思考模型,还可变身广告分配器,实现AI广告变现。

新智元
开源动态7

梳理SGLang中DP Attention及其Padding问题

作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程,指出padding分max和sum模式,旧版sum padding浪费计算、影响cuda graph使用,v0.4.10后有优化,max padding仍待完善。

GiantPandaLLM
推荐文章7

反常识!GPT-5和Opus 4同时翻车:AI越强,越不爱用工具?

作者用GPT - 5和Claude Opus 4做进化实验,让其开发工具。两模型表现出色,但面对实际任务却不用自制工具。原因包括模型规模使脚手架工作无价值、RLHF带来工具厌恶、逼近AGI渐近线等。

探索AGI
开源动态8

狂涨26.5K star!一个接口搞定20+AI大模型,开箱即用,太香了!

文章介绍开源项目One API,它是LLM API管理与分发系统,能统一管理主流AI模型,用一个接口搞定调用。有友好界面和可视化操作,在Github获26.5K star,还介绍其性能特色、安装使用方法。

开源先锋
产品应用8

银河通用WRC首发英伟达Thor,银河太空舱世界首创城市级机器人应用

全球首个城市级常态化运营的人形机器人示范区落地北京。银河通用具身大模型机器人Galbot依托大模型实现精准商品识别与取送,还展示了多场景应用能力。其银河太空舱开启‘十城百店’计划,推动具身智能服务普及。

新智元
算法论文8

ICCV 2025 | EPD-Solver:西湖大学发布并行加速扩散采样算法

扩散模型成生成任务主流技术,但逐步去噪机制致推理延迟大。西湖大学提出 EPD - Solver 算法,融合三类加速思路优势,可减少积分误差、提升生成质量,还能作插件集成,突破扩散模型速度与质量权衡瓶颈。

机器之心
产品应用7

腾讯入局具身智能,宇树首批用上“大脑”

腾讯在WAIC 2025推出具身智能Tarios平台,它模块化提供能力,集成腾讯软件能力。腾讯重申“三不原则”,与众多厂商合作。该平台核心含模型算法与云服务,能为厂商补齐软件能力。

量子位
推荐文章7

一个“蠢问题”改写模型规则!Anthropic联创亲曝:瞄准Claude 5开发爆款应用,最强模型的价值会让人忽略成本负担

Anthropic联合创始人Jared Kaplan在YC分享Scaling Law对大模型发展的影响及Claude模型意义。他指出Scaling Law源于问“蠢问题”,是推动AI进步核心动力,还给出产品构建建议,介绍Claude 4优化。

AI前线