搜索：共享内存 - AI Reading Hub

「共享内存」共找到 345 篇相关文章

那个写出20万+阅读的写作Skill，我用扣子免费公开了

作者分享将写作工作流变成扣子技能的经验。扣子的Coze Skill功能让非编程人员也能沉淀专业经验为AI能力，创建简单。对比通用AI，技能产出更具风格。职场人可将方法论做成技能共享，普通人也能搭建。

本文是NCCL 2.27新特性系列的第二部分，主要分析symmetric primitives的实现机制，介绍其提供的接口，如获得symmetric ptr、barrier、send、recv、llEpoch控制等接口，还解析了底层结构内存布局、各接口工作机制及LL Buffer划分机制等。

作者实测LibTV团队版，分享用其制作皮克斯风格3D动画片段的过程，介绍团队版核心功能，如团队主体库、共享积分池、权限管理等，还提及新功能，指出AI视频走向工业化，而该团队版是首个专注团队协作的工具。

文章围绕FlashAttention展开，从Attention性能瓶颈引出问题，阐述其各版本演进。FA-1实现算法突破，避免O(N²)内存；FA-2适配架构，提升性能；FA-3深度协同，实现异步；FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。

文章解读了欲取代Transformer的SSA（次平方稀疏注意力）算法。它支持12M tokens上下文，比fastAttention快52倍，训练和推理更快。SSA改变了注意力扩展特性，有计算和内存线性扩展等特性，经三阶段训练可可靠利用长上下文。