搜索：Memory Bound Kernel

「Memory Bound Kernel」共找到 116 篇相关文章

CUDA内核之神、全球最强GPU程序员？OpenAI的这位幕后大神是谁

AI圈聚光灯常聚焦明星人物，OpenAI一位工程师因编写关键CUDA Kernel引发关注，网友猜测是Scott Gray。他在Nervana开发maxas、maxDNN，加入OpenAI后开发块稀疏GPU内核并开源。

作者作为CUTLASS CuTe初学者，记录问题分析过程。本文聚焦如何基于TiledMMA及输入矩阵在Shared Memory上的Layout选合适Copy Operation完成拷贝，结合实例讲解ldmatrix指令选择，还给出参考代码。

由前Meta顶尖科学家创立的Memories.ai获800万美元种子轮融资。其大视觉记忆模型LVMM解决AI‘记忆缺失’问题，在多领域刷新SOTA基准，应用潜力大，还开放API及网页应用。

2025年，强化学习成大模型进化主战场，但万亿参数模型跑RL成本高。Mind Lab团队实现1T参数模型LoRA高效RL训练，GPU消耗降90%，技术开源。此外还有Memory Diffusion记忆机制等成果。

淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。

腾讯AI Lab推出全开源智能体框架Cognitive Kernel - Pro，解决现有开源框架依赖付费工具问题。它有模块化架构等核心设计，创新训练方法，在多任务中表现出色，降低外部依赖，相关论文登HuggingFace热榜。

在大语言模型发展中，长文本建模挑战大。蚂蚁研究团队提出注意力机制GCA，可端到端学习检索相关片段，实现超长序列处理与泛化，其Triton kernel实现已开源，论文被ICML 2025接收。

由华人创业者沈俊潇创办的 Memories.ai 发布 LVMM 2.0 并宣布与高通合作，该模型 2026 年将在高通处理器上原生运行。它解决视频可搜索性问题，应用广泛，能降低延迟、确保数据安全等。

智谱开源模型GLM - 5.1带来重大突破，14小时完成CUDA Kernel优化，加速比大幅提升。它解锁与顶尖闭源模型Claude Opus 4.6全面对齐，在多测试中表现优异，展现长程任务能力，改写行业叙事逻辑。

谷歌DeepMind团队联合伊利诺伊大学提出Evo-Memory框架和ReMem架构，改变大模型只能被动检索历史的现状，让智能体实现终身学习。通过基准测试验证其有效性，实验显示ReMem优势明显，还揭示记忆复用关键因素。