「BF16」共找到 150 篇相关文章
致敬Kimi K2：基于slime的全流程INT4量化感知RL训练
受Kimi K2团队启发，SGLang RL团队落地INT4量化感知训练流程方案，在强化学习多方面取得进展，还在slime框架复现全流程方案，实现媲美BF16精度，提高Rollout效率，为社区提供开源参考。
推理成本骤降75%！gpt-oss用新数据类型实现4倍推理速度，80GB显卡能跑1200亿参数大模型
OpenAI在gpt - oss开源模型采用MXFP4数据类型，使推理成本降75%，内存占用为BF16模型四分之一，生成token速度提4倍，还能降低硬件资源需求。不过MXFP4也有缺陷，英伟达推出NVFP4提升质量。
美国00后职场大逃杀：有人退学当电工，有人拿1.1亿造AI
外媒报道，面对AI带来的不确定性，美国00后开始重估职业路径。数据显示，59%的美国年轻人视AI为职业威胁，早期职业岗位就业率下滑约16%。00后分退守和进攻两种策略应对，职场中间阶层在蒸发。
AI 原生初创公司，都把钱花在了哪些 AI 产品上？
a16z与Mercury合作调研，基于超20万客户数据库，分析2025年6 - 8月支出模式，筛选出50家AI应用层公司。榜单揭示AI在产品与工作流的落地情况，显示早期创业公司愿买单的AI应用方向。
全网骂他AI作弊狗，硅谷风投反手砸1.2亿！这届VC就爱疯批创业者
哥大退学的Roy Lee靠「AI作弊神器」Cluely杀出重围，a16z领头砸1500万美元，公司估值达1.2亿美元。风投认为其开创新品类，是创新型实时生产力工具，虽有争议但值得投资。
种子轮就估值120亿美元，她能打造另一个OpenAI吗？
据《金融时报》，OpenAI前CTO Mira Murati的创业公司Thinking Machines Lab种子轮融资20亿美元，投后估值120亿美元。此轮由a16z领投，Nvidia和AMD参投。Murati透露公司方向，还称产品含开源组件。
OPPO新AI操作系统，走出屏幕“指哪答哪”，嘈杂环境只听你声音
OPPO新一代AIOS ColorOS 16来了，“一键闪记”和“一键问屏”功能有新玩法。“一键闪记”能记取餐码等，还会“记忆共生”；“一键问屏”走出屏幕，嘈杂环境也能只听你声音。此外，OPPO宣布全新AI技术架构。
ChatGPT和Claude争了个寂寞！用户重叠仅11%，中国应用霸榜移动端
风投机构a16z发布“迄今最受消费者喜爱的Top100 AI应用”榜单。前50个移动AI应用近半来自中国团队，用户多在海外。ChatGPT领先但挑战者来势汹汹，其与Claude用户重叠仅11%，全球形成三大AI市场。
英伟达祭出NVFP4核弹：大模型训练根本性转变，GB300效率狂飙7倍
英伟达推出新格式NVFP4，能以4 - Bit速度与效率实现16 - Bit生产件级训练精度，是LLM开发重大飞跃。虽处于研究阶段，但正与多组织合作。还介绍其方法、优势，实验也证明它在大规模训练的有效性。
【博客转载】CUDA Vectorized Memory Access （文末送书）
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽，实现朴素自定义设备内存拷贝函数，对比不同数据类型、大小及方法的性能，得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。