CUTLASS CuTe GEMM细节分析（三）——Swizzle<B, M, S>模板参数的取值

文章以(8, 32):(32, 1)为例，探索确定Swizzle<B, M, S>中M、S和B参数的方法。指出M、S与PTX指令及共享内存多Bank结构相关，B用于指定Swizzle行数避免bank conflict，还给出不同Layout的参数取值。

为什么 DeepSeek 大规模部署很便宜，本地很贵

文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。

【博客转载】CUDA Vectorized Memory Access （文末送书）

文章展示如何用向量化内存访问提高CUDA函数有效内存带宽，实现朴素自定义设备内存拷贝函数，对比不同数据类型、大小及方法的性能，得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。

CS博士求职8个月0 offer，绝望转行！斯坦福入学停滞，全美仅增0.2%

曾经热门的计算机专业渐成「冷门」，全美入学率仅增0.2%，斯坦福等校招生下滑。AI自动化初级编程岗位，致就业前景暗淡，如田纳西大学博士生求职8个月无果。不过也有人认为低迷或为短期，专家建议选培养可迁移技能学科。

3D高斯泼溅，可输入视图量高达500！推理速度提升3倍，内存少80%

ZPressor能高效压缩3D高斯泼溅（3DGS）模型的多视图输入，解决其在处理密集视图时的性能瓶颈。它基于信息瓶颈原理，分三步压缩信息，降低内存占用和推理时间，提升3DGS在高视图输入下的性能。

刚刚，OpenAI正式发布o3-pro！奥特曼激动更新博客：温和的奇点

今日凌晨，OpenAI发布o3-pro，Pro订阅用户可通过ChatGPT和API使用。其在多项任务表现出色，但在ARC-AGI数据集上与o3相近且成本高。网友测试评价不一，此外OpenAI CEO奥特曼还发表博客展望AI未来。

苹果憋一年终超同参数 Qwen 2.5？三行代码即可接入 Apple Intelligence，自曝如何做推理

今年 WWDC 大会上，苹果推出专为增强 Apple Intelligence 功能的语言基座模型，含约 3B 参数紧凑型与基于服务器的混合专家模型。经优化可在苹果芯片高效运行，改进工具使用与推理能力，评测显示设备端模型表现优。

DGM：首个可通过重写自己的代码来实现进化的AI Agent

Sakana AI发布Darwin Gödel Machine（DGM），可通过重写代码自我进化，突破了当前AI Agent智能固定的局限。它在多测试中表现出色，能力具通用性，但也有潜在风险和局限，团队已开源并提出未来研究方向。

仅隔一天，OpenAI同步上线o3和o4 mini，它们能调用ChatGPT里的多种工具，可基于图像思考。o3是强大推理模型，o4-mini专为快速经济推理优化。即日起部分会员可体验，还开源了Codex CLI。

机器学习先驱Daphne Koller警告：AI制药不是魔法棒，下一代药物发现还缺1000倍数据

知名学者 Daphne Koller 在 a16z News 发文指出，AI 制药当前最受关注的进展多在分子设计，但新药研发难题在上游，疾病机制的靶点选择错误导致大量临床试验失败，且当前数据距构建完整生物学因果模型差约 1000 倍。