搜索：分布式Attention

「分布式Attention」共找到 126 篇相关文章

"将注意力旋转90°"：深入浅出解读 Kimi 最新出圈成果

Kimi论文‘ATTENTION RESIDUALS’引发AI圈热议，马斯克等大佬高度评价。该论文由17岁高中生陈广宇参与，提出‘注意力残差’机制，解决标准残差问题，分全、分块注意力残差，权衡开销与效果。

月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。

微软副总裁 Nando de Freitas 在 X 上「开课」，分享人工智能教育帖子，从 LLM 的强化学习讲起。内容涵盖无监督、监督、强化学习定论，分布式强化学习系统构建，RL 用于后训练 LLM 等，还介绍单步强化学习与策略梯度及相关技巧。

雷峰网第八届GAIR大会邀请微分智飞高飞，探讨具身智能在飞行机器人领域应用。高飞指出其与传统无人机本质区别，介绍应用场景、分布式集群技术，还谈世界模型价值、挑战及创业契机，认为具身智能是历史拐点。

文章围绕FlashAttention展开，从Attention性能瓶颈引出问题，阐述其各版本演进。FA-1实现算法突破，避免O(N²)内存；FA-2适配架构，提升性能；FA-3深度协同，实现异步；FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。

本文为开发者提供2025年AI大模型开发核心技术栈图谱，解析四大核心支柱技术。基础开发框架含深度学习与AI Agent框架；模型训练与微调有分布式训练、参数高效微调；推理优化含关键技术与主流框架；AI编程辅助工具分主流形态且有发展趋势。

本文梳理2017年Transformer后LLM领域重要论文。如提出Transformer架构的论文成现代AI基石；介绍GPT - 3的论文确立‘大模型 + 大数据’缩放定律，引领LLM军备竞赛等。还列举各论文内容与影响。

作者小华整理 2025 年字节跳动、腾讯、阿里大厂面试真题及题解，涵盖算法、数据库、分布式等多领域，还给出记忆方法，助找工作或刷题同学备考。

昨天，Meta发布约30B参数的多模态Agent模型Muse Glimmer，支持128K级上下文。它采用Apache 2.0许可证开放，有量化版本等。其技术设计围绕显存、上下文管理等问题展开，在多方面做了取舍。

SpaceX与英伟达合作设计Starmind AI1卫星计算载荷，每颗卫星搭载NVIDIA GPU和CPU，将数据中心算力部署太空，该设计也用于地面数据中心。但项目投入大，还面临管理集群等难题。