「内存优化」共找到 1438 篇相关文章

算法论文7

苹果提出新型反向传播:一台iPhone 15 Pro Max就能微调LLM

苹果提出内存高效型反向传播(MeBP),可在内存使用量和计算时间上比零阶优化(ZO)有更好权衡,收敛更快、性能更优,还在iPhone 15 Pro Max验证其有效性,且公开了实现链接但目前为空。

机器之心
算法论文8

FlashAttention 完全进化史:FA-4 发布之际的技术全景回顾

文章围绕FlashAttention展开,从Attention性能瓶颈引出问题,阐述其各版本演进。FA-1实现算法突破,避免O(N²)内存;FA-2适配架构,提升性能;FA-3深度协同,实现异步;FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。

GiantPandaLLM
开源动态8

腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s

腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法,通过PD分离、多层MTP优化等全栈优化方法论,还介绍多机性能优化方案,后续预计性能突破20000 tokens/s。

腾讯技术工程
推荐文章7

基于一个MXFP8量化Kernel谈一谈如何在B200上实现高性能的Memory Bound Kernel

作者向SGLang社区提交基于CUTLASS的MXFP8 Blockscaled Grouped GEMM实现,其中包含量化Kernel。文章关注此Kernel,介绍在B200上实现高性能Memory Bound Kernel的优化技术,如整体设计、向量化与合并访问、Occupancy优化、TMA利用等。

GiantPandaLLM
6

苹果App Store榜单优化重要性,榜单优化的主要方式(进阶篇三)

流量探涨,ASO进阶篇,增长人的必备效率手册,带你升级为应用商店推广高手ASO进阶篇知识分为四章,今天更新第

新闻资讯7

海外chatgpt/gemini的SEO/GEO优化建议

Similarweb 1 月 2 日发布 AI 全球趋势报告,复盘多赛道流量变化。通用 AI 市场竞争激烈,ChatGPT 流量降 22%,Gemini 增 49%;垂直领域头部效应明显。还给出 SEO 和 GEO 优化建议。

白杨SEO优化教程
6

SEO是什么?SEO一般指搜索引擎优化

搜索引擎优化(SEO)是网站经营者利用搜索引擎规则提升网站排名的商业行为,目的是在行业内占据领先地位,获取品牌收益。但SEO技术手段多样,黑帽与白帽方法的选择直接影响网站的长期发展。

孔生SEO
8

刚刚,DeepSeek扔出大杀器,梁文锋署名!暴力优化AI架构

2026新年第一天,DeepSeek发表梁文锋署名新论文,提出「mHC(流形约束超连接)」架构。它仅增约6.7%训练时间开销,就能让27B参数模型性能显著提升,还可能淘汰ResNet结构。

力学与人工智能
推荐文章7

为什么我坚决投入GEO(生成式引擎优化)?

AI改变流量分配规则,站长竞争焦点从‘排名位置’变为‘被引用率’,GEO应运而生。作者总结了GEO打法,如优化全站、关键页面,做结构化数据增强,还应用于自身产品。

newtype AI
新闻资讯8

Transformer危!谷歌MoR架构发布:内存减半推理速度还翻倍

谷歌推出全新底层架构Mixture-of-Recursions(MoR),推理速度提高2倍、KV内存减半,首次在单一框架实现多任务处理与动态分配计算资源,研究人员通过实验验证其性能超Transformer。

量子位