新闻资讯8
AICon:多专家分享大模型推理优化方案
InfoQ
AI 摘要
AICon大会上,阿里云刘峥等专家将分享推理优化方案。龚睿昊讲工业级工具链,马腾揭秘云上KVCache架构,宋晓辉展示OPPO端侧化技术,汤雄超介绍赤兔引擎破异构算力困局。
阅读原文 · InfoQ
推理成本太高、算力不够用?单纯堆卡没用,得靠极致的“压缩”与“调度” | AICon
大模型落地面临推理成本高、算力需求大的问题。AICon大会上,阿里云刘峥、ModelTC龚睿昊、阿里巴巴马腾、OPPO宋晓辉、清程极智汤雄超等专家将分享从压缩到调度的推理优化方案,覆盖云到边缘、多算力平台。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯9
ChatGPT核心开发者掀桌推新架构Jev
前OpenAI ChatGPT核心研究员Diogo Almeida,研发两年推出专为业务自动化设计的全新模型Jev,新架构速度比传统大模型提升最高200倍,输出免费,从底层根除类型错误与幻觉,成本远低于主流大模型,已开放早期预览申请。
AI寒武纪
新闻资讯8
前OpenAI研究员推只做决策AI 快200倍
本文报道前OpenAI研究员Diogo Almeida离职创业,推出不做文本生成、只输出结构化决策的新AI模型Jev,公开性能数据,探讨大模型应用分工新路线。
DeepTech深科技
新闻资讯8
OpenAI反超Claude,GPT-6 Sol偷跑
本文报道AI大模型领域最新战局,OpenAI在OpenRouter平台的开发者Token消耗付费流水,首次超越Anthropic Claude,终结了Claude两年半的统治,同时神秘GPT-6 Sol偷跑曝光,双方开启终极对决。
新智元
新闻资讯9
三大AI巨头论战AI要不要踩刹车
Salesforce Dreamforce 2026大会上,OpenAI、Anthropic、英伟达三大AI巨头CEO罕见同台,围绕AI发展是否需要踩刹车展开激烈论战,各方立场背后暗藏产业利益博弈,头部模型厂商已密谈行业安全协同。
AI前线