「矩阵加载」共找到 139 篇相关文章
FlashAttention-4正式发布：算法流水线大改，矩阵乘法级速度
深度学习领域底层优化技术FlashAttention更新至4版本。其核心作者称在Blackwell GPU上，注意力机制执行速度接近矩阵乘法。新算法克服瓶颈，在B200上性能提升，还获Pytorch官方支持。
MCP上下文爆炸怎么办？Anthropic给出了新答案（图文示例）
文章结合Anthropic和Cloudflare关于MCP的文章，指出MCP上下文过长存在工具定义预加载和数据反复流经AI两个核心问题，提出让AI写代码调用工具的解决方案，包括按需加载工具和代码在沙箱执行。
矩阵乘法可以算得更快了！港中文10页论文证明：能源、时间均可节省
香港中文大学10页论文提出新算法RXTX，用于计算矩阵与其转置的乘积XXᵗ。该算法结合机器学习搜索和组合优化技术，能源可节省5%-10%，时间节省5%，对多领域有深远影响。
打破56年数学铁律！谷歌AlphaEvolve自我进化实现算法效率狂飙，堪比AlphaGo“神之一手”
谷歌DeepMind联合顶尖科学家打造「通用科学人工智能」AlphaEvolve，打破矩阵乘法领域56年效率基准，将4x4矩阵乘法标量乘法次数从49次降至48次，还在谷歌内部加速了运算、缩短训练时间。文中介绍其原理与技术。
正交化之外是什么？微软等提出ARO优化器：训练提速1/3，揭示矩阵优化新「蓝海」
微软研究院联合多校发布论文，提出新优化器 ARO。它将梯度旋转作为原则，能让大模型训练提速约 1/3，比 Muon 高效 10% - 15%，还能全模型优化，揭示了矩阵优化新方向。
Claude Skills很重要
作者本想退订Claude，因Anthropic发布Claude Skills改变主意。它是‘能力包’，含SOP、工具和资源，分层加载省上下文窗口。预设Skills可体验，官方开源，模块化设计利于挂载和按需加载，或形成Skills Market。
FlashInfer集成TensorRT-LLM cubin kernel技术分析
文章以MoE模块为例，分析FlashInfer集成TensorRT-LLM的技术。探讨如何不依赖源码用其优化内核、动态加载管理CUBIN文件，介绍集成架构、源码集成技术、CUBIN动态加载系统等内容。
快手进军AI编程！“模型+工具+平台”一口气放三个大招
AI编程竞争激烈，快手发布AI编程产品矩阵进军该赛道。其“三位一体”矩阵含顶尖自研模型、智能开发工具和MaaS平台，KAT - Coder - Air轻量版免费。各产品亮点多，助力构建AI编程新生态。
Skills火爆之后，我收集并整理了最近全网火爆的Skills，拿走不谢～～～
文章介绍 Agent Skills，称其是 AI 助理的「使用指南」，技能分浏览、加载、使用三阶段加载，有快且轻、跨平台、易分享等优势。还推荐多个优秀 skills 及相关工具网站，提醒从业务出发看待它。
【博客转载】Row-Major VS Column-Major
文章探讨行主序和列主序存储多维数组的差异，以及对矩阵乘法性能的影响。指出不同存储顺序组合下矩阵乘法的偏好，还通过C++单线程实现和cuBLAS库验证分析，表明优化可减少性能差距。