「低内存」共找到 1181 篇相关文章
苹果提出原生多模态Scaling Law！早融合+MoE，性能飙升秘密武器
如今打造强大多模态模型是AI重要目标，常用方法有局限。法国索邦大学、苹果研究人员开展原生多模态Scaling Laws研究，对比早融合与后融合，探讨多种因素对模型性能影响，发现早融合、多模态MoE优势，为后续研究指明方向。
14万，家务机器人带回家！斯坦福华人博士具身创业首款产品亮相
斯坦福明星华人博士生创业机器人Memo亮相，售价2万美刀。它颜值高，能做家务，在无剪辑等的demo中有出色表现。其背后是ACT - 1模型，依赖技能捕捉手套数据训练，成本低且用户可教它新本领，预计2026年推出。
第二代InfLLM开源，同尺寸快三倍！零参数，可训练稀疏注意力
新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。
AI 的下一个战场：端侧模型崛起
大模型退烧，小模型接棒。腾讯、阿里等大厂纷纷官宣小模型成果，英伟达、OpenAI 等也有相关动作。端侧模型赛道广阔，但技术含量不低，面壁智能在端侧模型探索上成果丰硕，其 MiniCPM 系列不断迭代，还在多领域落地。
GPT-5 终于发布：别慌、AGI 还没来，第一手的上手体验在这里
GPT-5 发布，距离 GPT-4 发布已过 2 年。它能力强、定价有竞争力，是首个「统一」AI 模型，幻觉率低、代码能力强。免费用户可默认使用，Plus 和 Pro 订阅用户有不同使用额度。开发者可使用三种模式，代码能力测试案例可参考相关网站。
FlashAttention 完全进化史：FA-4 发布之际的技术全景回顾
文章围绕FlashAttention展开，从Attention性能瓶颈引出问题，阐述其各版本演进。FA-1实现算法突破，避免O(N²)内存；FA-2适配架构，提升性能；FA-3深度协同，实现异步；FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。
年入6亿、日本细分赛道第一，国产AI 硬件如何拿下日本智能家居市场？
国产 AI 硬件 SwitchBot 拿下日本智能家居市场市占第一。它单价低、安装灵活，以“非入侵式后装”理念，从智能开关拓展到多品类。2023 年扫地机器人 K10+ 大获成功，后又用 S10 试水美国市场，还推出 K20+ Pro 拓展场景。
突发！Fable 5.1遭黑客破解，27万字提示词泄露
Fable 5.1和Mythos 5.1发布，Fable 5.1推理成本低32%。但发布几小时后被破解，27万字提示词泄露，曝光了其安全限制、隐私保护等秘密。它工具增加，还破解密码、能完成多种任务，不过也有用户抱怨耗token等问题。
欲取代transformer的SSA(次平方稀疏注意力)解读
文章解读了欲取代Transformer的SSA（次平方稀疏注意力）算法。它支持12M tokens上下文，比fastAttention快52倍，训练和推理更快。SSA改变了注意力扩展特性，有计算和内存线性扩展等特性，经三阶段训练可可靠利用长上下文。
【CUDA 博客】TMA简介 & 让矩阵转置在Hopper GPUs上变得更快
文章介绍Hopper GPU新特性TMA，它能高效传输多维数组数据。文中展示用TMA对2D数组操作，如创建张量映射、编写kernel等。还讲了避免共享内存bank冲突的交织方法，最后介绍在Hopper GPU上实现高效矩阵转置的多种方式及性能。