「GPU内存共享」共找到 714 篇相关文章
清华校友出手，8B硬刚GPT-4o！单一模型无限工具调用，终结多智能体
MIT等机构推出TIM和TIMRUN组合拳，突破模型token天花板。TIM将推理建模为任务树，TIMRUN优化内存管理。二者结合支持长程推理，实现单模型高效推理，简化智能体构建，在多方面表现出色。
国产英伟达，离上市越来越近了
国产GPU明星企业摩尔线程申报不足3个月即上会，刷新科创板上会速度。它由前英伟达中国区总裁创立，获众多资本支持，虽营收增长快但累计亏损53亿，预计2027年或盈利，监管关注其盈利能力等问题。
OpenAI转向谷歌TPU：宿敌也能变朋友？
据路透社等报道，OpenAI 开始租用谷歌 AI 芯片支持产品。它本是英伟达 GPU 大买家，现面临 GPU 紧缺且想降低对微软绑定。此举或使 TPU 成替代，也提升谷歌在高端 AI 云市场话语权。
关于内存价格转跌，我们和贸易商聊了聊
3月30日，服务器内存贸易商称内存价格从前几天开始跌，30日跌得最凶。国内DDR4价格跌幅超30%，DDR3价格腰斩，DDR5较坚挺。谷歌新算法引发市场震动，从业者认为DDR4暴跌还有其他原因。
苹果提出新型反向传播：一台iPhone 15 Pro Max就能微调LLM
苹果提出内存高效型反向传播（MeBP），可在内存使用量和计算时间上比零阶优化（ZO）有更好权衡，收敛更快、性能更优，还在iPhone 15 Pro Max验证其有效性，且公开了实现链接但目前为空。
沐曦上市背后：那些陪它穿越“死亡谷”的投资人｜甲子光年
沐曦股份在上海证券交易所科创板挂牌上市，发行价104.66元/股，上市首日高开。早期投资人陪其穿越‘死亡谷’，上市验证‘陪跑型投资’价值，也标志国产GPU进入‘资本验证期’，但仍面临生态和制程挑战。
华为版CUDA，全面开源了
华为宣布为昇腾AI GPU开源CANN软件工具包及Mind系列套件、工具链，让昇腾更好用。CANN类似华为版CUDA，目前到8.0版，支持多深度学习框架。同日，传奇GPU架构师创业公司浮出水面，挑战英伟达。
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
SK 海力士，市值突破4000亿美元
1月27日，SK海力士股价创新高，市值达4031亿美元，三年涨10倍。因AI基建投资扩张，内存芯片供应紧缺。传其为微软供芯，韩媒称它和三星提高LPDDR内存价，或影响iPhone 18价，还将发高额奖金。
争夺3500亿估值！谁会是真的“中国英伟达”
6月30日，摩尔线程和沐曦同日递交科创板IPO申请，预计未来A股将涌现近10家“中国英伟达”。这轮上市潮源于政策松动，且美国出口管制为国产GPU提供了市场窗口期，但竞争也日趋激烈。目前国产GPU营收与亏损齐飞，未来需构建生态并解决产能问题。