「GPU内存共享」共找到 714 篇相关文章
刚刚,AI大牛Karpathy又提新概念:像细菌一样写代码?
AI大牛Andrej Karpathy继Vibe Coding后提出「细菌式编码」,受细菌代码启发,有小而精简、模块化、自包含特点,其核心是让代码利于共享。它适合快速原型开发,也有局限,建议兼顾两者。
破解300年数学难题,智能体大突破!谷歌发布超强AI Agent
今天凌晨谷歌Deepmind发布编程AI Agent——AlphaEvolve,它与Gemini深度集成,能评估算法。它解决了300多年的数学难题,还提出新算法,提升大模型计算效率,可优化GPU指令,架构含多模块。
SpaceX:天基基础设施垄断者
传言SpaceX明年将IPO,作者认为其正把‘先发优势’转为‘物理垄断’,将成‘人类未来天基基础设施的唯一垄断者’。它有极强运力成本优势,能抢占轨道和频谱资源,变现方式或为把GPU发上天。
八年一觉AI梦:轰然成势,万象归一 | 甲子光年八周年
文章回顾甲子光年八年来与AI共成长历程,指出当下AI“轰然成势,万象归一”。“成势”是多力量耦合过临界点,“归一”是在复杂世界共享底层逻辑。强调智库要参与构建叙事推动产业秩序形成。
老黄200亿「钞能力」回应谷歌:联手Groq,补上推理短板
谷歌TPU威胁刚至,英伟达砸200亿美元联手Groq布局AI新时代。知名投资人指出Groq LPU推理速度远超GPU、TPU等,但内存容量小。英伟达借此补推理短板,入局竞争激烈的推理市场。
他们让万亿参数RL学会了「省着跑」,顺便砍掉九成算力
2025年,强化学习成大模型进化主战场,但万亿参数模型跑RL成本高。Mind Lab团队实现1T参数模型LoRA高效RL训练,GPU消耗降90%,技术开源。此外还有Memory Diffusion记忆机制等成果。
AI+直播的新玩法! StreamDiffusionV2让创意零延迟
生成模型改变直播行业,但此前模型难保证时间一致性、有延迟等问题。加利福尼亚大学推出StreamDiffusionV2,通过智能调度和缓存机制优化,支持多GPU并行,可灵活调画质和延迟,实现实时直播。
OOM排查之路:一次曲折的线上故障复盘
文章复盘了整合Paimon数据湖与RocksDB的系统三次OOM故障排查过程,分享曲折经历,介绍MAT、NMT等排查工具,还给出内存问题排查思路,望为相似技术栈者提供启发。
ICCV 2025 | HERMES:首个统一3D场景理解与生成的世界模型
本文介绍HERMES,首个统一3D场景理解与生成的世界模型。它由华中科技大学等团队合作研发,通过共享LLM驱动两大任务,解决了输入处理和任务融合难题,实验效果显著,为自动驾驶提供新范式。
「有望成为Transformer杀手」,谷歌DeepMind新架构MoR实现两倍推理速度
谷歌DeepMind发布新架构MoR,有望成Transformer杀手。它统一实现参数共享、自适应计算,兼顾性能与效率。实验显示其推理吞吐量提升,降低计算需求,但能否取代Transformer存疑。