开源动态7
OpenAI:MXFP4让大模型推理成本降75%
量子位
AI 摘要
OpenAI在gpt - oss用MXFP4数据类型,让推理成本降75%,内存占用减、速度提升。虽MXFP4有缺陷,但OpenAI认为其够用,英伟达还推出NVFP4改进。
阅读原文 · 量子位
推理成本骤降75%!gpt-oss用新数据类型实现4倍推理速度,80GB显卡能跑1200亿参数大模型
OpenAI在gpt - oss开源模型采用MXFP4数据类型,使推理成本降75%,内存占用为BF16模型四分之一,生成token速度提4倍,还能降低硬件资源需求。不过MXFP4也有缺陷,英伟达推出NVFP4提升质量。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
OpenAI悄悄上架生命科学新模型
本文报道OpenAI在API价格页悄然上线未正式发布的生命科学新模型gpt-rosalind-discovery,梳理OpenAI Rosalind产品线布局,对比头部厂商路径,分析AI+药物发现赛道商业化的机遇与挑战。
DeepTech深科技
新闻资讯9
OpenAI攻克千禧难题 人类看不懂
本文报道OpenAI攻克千禧年数学难题纳维-斯托克斯方程事件,探讨AI生成证明超出人类认知上限的现状,剖析AI对传统科研范式、学术体系的冲击与伦理困境
新智元
新闻资讯9
OpenAI发722篇数学成果搅乱学界
OpenAI公开722篇由内部未发布前沿模型生成的数学成果,覆盖多数学方向,部分附带形式化证明,发布后引发数学界巨大冲击,消化验证需数年,不少青年学者研究项目遭毁灭性打击,本文梳理各方反应与争议。
机器之心
新闻资讯9
AI破解数学难题 引发学界震荡
本文报道OpenAI一次性放出722篇AI生成的重大数学难题证明,引发全球数学界震动,美国CS教授称其为数学末日,数学家联合抵制OpenAI,学界观点撕裂,揭露了AI给数学界带来的巨大冲击和争议。
新智元