「BF16」共找到 145 篇相关文章
推理成本骤降75%!gpt-oss用新数据类型实现4倍推理速度,80GB显卡能跑1200亿参数大模型
OpenAI在gpt - oss开源模型采用MXFP4数据类型,使推理成本降75%,内存占用为BF16模型四分之一,生成token速度提4倍,还能降低硬件资源需求。不过MXFP4也有缺陷,英伟达推出NVFP4提升质量。
AI 原生初创公司,都把钱花在了哪些 AI 产品上?
a16z与Mercury合作调研,基于超20万客户数据库,分析2025年6 - 8月支出模式,筛选出50家AI应用层公司。榜单揭示AI在产品与工作流的落地情况,显示早期创业公司愿买单的AI应用方向。
全网骂他AI作弊狗,硅谷风投反手砸1.2亿!这届VC就爱疯批创业者
哥大退学的Roy Lee靠「AI作弊神器」Cluely杀出重围,a16z领头砸1500万美元,公司估值达1.2亿美元。风投认为其开创新品类,是创新型实时生产力工具,虽有争议但值得投资。
种子轮就估值120亿美元,她能打造另一个OpenAI吗?
据《金融时报》,OpenAI前CTO Mira Murati的创业公司Thinking Machines Lab种子轮融资20亿美元,投后估值120亿美元。此轮由a16z领投,Nvidia和AMD参投。Murati透露公司方向,还称产品含开源组件。
OPPO新AI操作系统,走出屏幕“指哪答哪”,嘈杂环境只听你声音
OPPO新一代AIOS ColorOS 16来了,“一键闪记”和“一键问屏”功能有新玩法。“一键闪记”能记取餐码等,还会“记忆共生”;“一键问屏”走出屏幕,嘈杂环境也能只听你声音。此外,OPPO宣布全新AI技术架构。
ChatGPT和Claude争了个寂寞!用户重叠仅11%,中国应用霸榜移动端
风投机构a16z发布“迄今最受消费者喜爱的Top100 AI应用”榜单。前50个移动AI应用近半来自中国团队,用户多在海外。ChatGPT领先但挑战者来势汹汹,其与Claude用户重叠仅11%,全球形成三大AI市场。
英伟达祭出NVFP4核弹:大模型训练根本性转变,GB300效率狂飙7倍
英伟达推出新格式NVFP4,能以4 - Bit速度与效率实现16 - Bit生产件级训练精度,是LLM开发重大飞跃。虽处于研究阶段,但正与多组织合作。还介绍其方法、优势,实验也证明它在大规模训练的有效性。
【博客转载】CUDA Vectorized Memory Access (文末送书)
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽,实现朴素自定义设备内存拷贝函数,对比不同数据类型、大小及方法的性能,得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。
他们从四家顶尖AI实验室辞职,打造能自己跑实验的AI系统,目标是让科学家实现Vibe Research
2026年初,Harsh Mehta和Behnam Neyshabur离开Anthropic,在旧金山注册Mirendil,6月25日公司亮相并完成2亿美元种子轮融资。团队来自四家顶尖机构,目标是构建自主处理AI研发问题的系统,降低AI研发门槛。
刚刚更新,全球AI百强:中国五款产品进前20,ChatGPT背腹受敌,氛围编程成黑马
风投巨头 Andreessen Horowitz 发布第五版《全球前 100 大 Gen AI 消费级应用》。OpenAI 的 ChatGPT 仍居榜首,但谷歌 Gemini 等紧追。中国多款 AI 应用跻身前列且走向全球,氛围编程赛道也展现出增长潜力。