「GPU实现」共找到 2454 篇相关文章
韩松等提出FlashMoBA，比MoBA快7.4倍，序列扩到512K也不会溢出
今年2月月之暗面提出MoBA，在处理长上下文有潜力，但业界缺乏对其性能设计原则的理解和高效GPU实现。来自MIT、NVIDIA的研究者提出FlashMoBA，解决了小块MoBA性能挑战，实验显示其在多方面表现优。
大模型思维链推理速度倍增！——RoT新框架把思维链「画」进隐空间
随着大模型规模扩展，思维链（CoT）成处理复杂推理任务标准范式，但显式CoT依赖长序列生成，隐式CoT面临优化挑战。腾讯提出RoT新框架，利用视觉编码器将文本推理步骤转为视觉嵌入，实现Token压缩与推理加速，且过程可分析。
强化学习之父Richard Sutton最新演讲揭示OaK架构：通向超级智能的八步愿景
强化学习之父Richard Sutton在演讲中介绍OaK架构，认为它是通向超级智能的路径。他回顾对简单通用AI智能体架构的追求，强调从经验学习、拟合世界的重要性，还指出实现该架构需八个步骤，虽只是愿景但提供了发展路线图。
Mira Murati 创业公司首发长文，尝试解决 LLM 推理的不确定性难题
OpenAI前CTO Mira Murati创立的Thinking Machines Lab首发文章《克服LLM推理中的不确定性》，指出大语言模型推理难获可复现结果，深入探究其不确定性根源，提出使核函数具备批次不变性的方法并给出实现与实验。
杀疯了！单卡4090跑通全量微调，面壁1B级多模态性能怪兽硬刚大厂
面壁智能推出MiniCPM-V 4.6，参数约1B，性能和推理效率出色。它在多模态任务综合能力、推理速度上领先竞品，靠ViT架构改造和4倍/16倍混合视觉Token压缩实现创新，有工业验证，对开发者和普通用户意义大。
谷歌做了个论文专用版nano banana！顶会级Figure直出
科研人画论文插图耗时久、要求高，现有大模型搞不定。北大与Google Cloud AI Research团队推出PaperBanana，能按论文方法画顶会级Figure，不仅能从零生成，还能润色丑图，通过多智能体协作实现科研表达自动规范化。
中际旭创的高增长，还能持续多久？
今年夏季光模块龙头中际旭创市场表现强劲，市值逼近4600亿，但控股股东计划减持。此前也有股东减持，市场曾争论其估值合理性。要实现250亿利润目标，受北美大厂算力支出、竞争、CPO进展等因素影响。
Nano banana手办玩法火爆出圈！无需抽卡，效果惊了(°o°)
小某书被AI手办图刷屏，原来是谷歌的nano - banana（Gemini 2.5 Flash Image）模型爆火。文章实测其手办玩法，还介绍多种玩法，团队透露以文本渲染评估、原生多模态等核心技术，谷歌未来想整合模态实现AGI，还将举办黑客松。
【一手实测】字节豆包 1.6 + Trae + 火山 MCP + FaaS：AI Agent 开发部署全流程体验！
本文作者实测字节豆包1.6系列模型，用其设计落地页，还借助Trae、火山方舟MCP等实现AI Agent开发部署全流程。测评显示豆包1.6多模态能力强，处理复杂指令效果好，价格实惠，字节AI云原生生态前景佳。
MoE RL 实战：统一 FP8 全流程训练
SGLang RL 团队等实现 RL 全流程 FP8 训练与采样，消除训推不一致性。介绍 FP8 硬件基础、格式等，分析训练难点，定位 KL Loss 异常源于量化原理，验证其在 MoE 模型 RL 场景优势，指出模型规模与训推不一致的关联。