「FP16」共找到 174 篇相关文章
英伟达祭出NVFP4核弹：大模型训练根本性转变，GB300效率狂飙7倍
英伟达推出新格式NVFP4，能以4 - Bit速度与效率实现16 - Bit生产件级训练精度，是LLM开发重大飞跃。虽处于研究阶段，但正与多组织合作。还介绍其方法、优势，实验也证明它在大规模训练的有效性。
LightX2V Ulysses Attention 实现学习笔记
本文记录了LightX2V中Ulysses Attention的实现方式与张量形状推导。在多模态/视频场景，其实现可概括为一种layout变换，还提供`enable_head_parallel`和`use_fp8_comm`选项，效果受运行环境等因素影响。
求稳的安全IP，安谋科技如何守正出奇？｜甲子光年
12月24日，安谋科技推出新一代SPU IP——“山海” S30FP/S30P，给出面向高性能计算芯片的全栈安全解决方案。该方案从硬件IP层、软件中间件到云端服务构建一栈式安全防护体系，有五大核心亮点。
【博客转载】CUDA Vectorized Memory Access （文末送书）
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽，实现朴素自定义设备内存拷贝函数，对比不同数据类型、大小及方法的性能，得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。
刚刚！微软 | 发布全新一代自研AI芯片Maia 200
微软提前发布自研AI芯片Maia 200，基于台积电3纳米工艺，性能超竞品，是其异构AI基础设施重要部分，将支持多个大模型，已部署在美中数据中心，还开放Maia SDK预览。
他们从四家顶尖AI实验室辞职，打造能自己跑实验的AI系统，目标是让科学家实现Vibe Research
2026年初，Harsh Mehta和Behnam Neyshabur离开Anthropic，在旧金山注册Mirendil，6月25日公司亮相并完成2亿美元种子轮融资。团队来自四家顶尖机构，目标是构建自主处理AI研发问题的系统，降低AI研发门槛。
刚刚更新，全球AI百强：中国五款产品进前20，ChatGPT背腹受敌，氛围编程成黑马
风投巨头 Andreessen Horowitz 发布第五版《全球前 100 大 Gen AI 消费级应用》。OpenAI 的 ChatGPT 仍居榜首，但谷歌 Gemini 等紧追。中国多款 AI 应用跻身前列且走向全球，氛围编程赛道也展现出增长潜力。
训练大模型玩《反恐精英》：自带外挂一枪爆头，堪比职业玩家
动视暴雪、斯坦福大学和英伟达等研究人员基于职业玩家游戏数据和Transformer架构，开发游戏大模型MLMOVE。在《反恐精英：全球攻势》测试中，它表现出色，性能超现有机器人，还具提前预判移动等创新。
2025美国艺术与科学院院士出炉！中国物理巨匠王贻芳，ImageNet作者李凯当选
2025年美国艺术与科学院新科院士公布，近250名院士来自16个国家，涵盖31个专业领域。计算机科学领域有Kai Li、Dawn Song等；物理领域有王贻芳、Donna Sheng等；神经科学领域有Yang Dan、Kang Shen等，微软CEO纳德拉也在名单中。
微软全球AI采用报告：每6个人就有1个用AI，但差距正在失控
微软AI经济研究所报告显示，2025下半年全球AI普及率创新高，每6人就有1人用AI，但全球南北数字鸿沟加剧。富裕国家借基建优势巩固领先，韩国靠政策、技术、文化实现跃升，开源模型DeepSeek在新兴市场崛起。