新闻资讯8
阿里云与平头哥揭秘模型推理提升秘诀
InfoQ
AI 摘要
阿里云冯梦轲、平头哥黄伟表示,AI焦点转向推理,大模型从“对话”到“做事”。推理范式将向多方向演变,优化需软硬协同。阿里云推理加速提至13.1倍,未来推理降本且催生新应用。
阅读原文 · InfoQ
深度访谈:阿里云X平头哥,模型推理提升13倍背后的秘密
这篇深度访谈聚焦阿里云与平头哥,探讨模型推理提升13倍背后的秘密。随着AI焦点转向推理,行业面临算力、成本、监管等矛盾。嘉宾分析推理范式现状与变化,探讨推理加速技术及优化策略,还谈及瓶颈、未来发展及竞争方向。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯9
吴泳铭:千问将训练5-10万亿参数新模型
本文整理阿里CEO吴泳铭在2026杭州云栖大会的演讲,提出机器将成为思考主力,智能将成为规模化商品,公布阿里AI三大基石最新进展与目标
InfoQ
推荐文章9
具身智能进入数据飞轮产能竞赛
本文分析具身智能行业的数据痛点,指出行业已从“找数据”进入造、管、回流再生产阶段,数据飞轮全链路工程化是核心竞争壁垒,分享了多家企业落地实践。
量子位
开源动态9
全球首批复现Jev:9B模型79毫秒快决策
本文独家对话APUS AI首席科学家张旭,该团队完成全球首批爆火Jev模型的功能复现,开源相关成果,实现9B小模型79毫秒单次决策,拆解Jev底层逻辑,探讨快决策模型应用前景与Agent未来分工趋势。
InfoQ
新闻资讯8
OpenAI杀疯 欲破千禧年数学难题
本文爆料头部AI实验室破解千禧年数学难题的最新进展,OpenAI攻克纳维-斯托克斯问题后,五天内就在霍奇猜想上取得实质性进展,Anthropic也接近解决另一难题,展现AI推理能力的飞速迭代。
AI寒武纪