「AI笔记应用」共找到 10587 篇相关文章
黄仁勋砸千亿兆瓦算力，押注下一个“Open AI”
3月10日，前OpenAI高管Mira Murati创办的Thinking Machines Lab与英伟达达成长期合作，英伟达将提供1吉瓦下一代NVIDIA Vera Rubin系统。这一合作规模巨大，显示英伟达全面布局，也体现该创业公司野心，不过其面临组织动荡考验。
CUTLASS 笔记 (2)：混合精度 GEMM kernel
文章介绍实现支持不同精度的 GEMM 算子，解析精度转换技术细节，还介绍根据 PTX 文档实现自定义 FP8 精度的 GEMM kernel，包括揭开 MMA Atom 面纱、分析 TV 与 MN Layout 等，最后完成精度验证。
AI到底会不会取代我们的工作？
作者分析2023 - 2025年10月近1.8亿份全球招聘启事，发现2025年总招聘岗位降8%。创意执行岗、基层员工岗位减少，而创意策略岗、高层领导岗位降幅小。客服、软件工程师岗位较坚挺，机器学习等岗位逆势增长。
SGLang 确定性推理实现技术细节笔记
文章围绕SGLang确定性推理展开，介绍其启用方式，详述批次不变性原理与Batch Invariant Ops实现，如Matmul Persistent Kernel设计；还阐述确定性采样、Attention Backend配置、AllReduce改动等，给出环境变量及测试脚本，有完整解决方案。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
AI 的下一个战场：端侧模型崛起
大模型退烧，小模型接棒。腾讯、阿里等大厂纷纷官宣小模型成果，英伟达、OpenAI 等也有相关动作。端侧模型赛道广阔，但技术含量不低，面壁智能在端侧模型探索上成果丰硕，其 MiniCPM 系列不断迭代，还在多领域落地。
The Batch: 844 | AI 天气预测加速推进
美国国家飓风中心与 Google 的 Weather Lab 合作，利用新模型预测风暴。该模型能比传统方法更准确预测风暴形成、路径和强度，最长提前 15 天，测试表现优于 Google 之前的 GenCast 模型和 ENS 模型。
具身智能中的 VLA 技术及其应用
文章围绕具身智能中 VLA 技术展开，介绍其现状、挑战、架构、数据方案及部署等内容。指出 VLA 虽推动具身智能发展，但面临数据、模型结构等挑战，还探讨了不同架构优劣及未来探索方向。
曦望，死磕AI推理成本｜甲子光年
1月27日，国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制，设计系统级重构，单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划，目标是极致推理性价比。
LightX2V Ulysses Attention 实现学习笔记
本文记录了LightX2V中Ulysses Attention的实现方式与张量形状推导。在多模态/视频场景，其实现可概括为一种layout变换，还提供`enable_head_parallel`和`use_fp8_comm`选项，效果受运行环境等因素影响。