「GPU算力」共找到 1072 篇相关文章
突破Agent长程推理效率瓶颈！MIT&新加坡国立联合推出强化学习新训练方法
AI Agent处理复杂任务时显存、算力问题凸显，MIT和新加坡国立大学联合提出MEM1框架。它基于强化学习，让智能体学会管理记忆，实现近似常量级显存开销，在多方面表现超越大模型。
简单了解下CUDA Green Context
文章基于Flashinfer实现介绍CUDA Green Context，它在CUDA 12.0+引入，能实现资源隔离、降低多线程性能损失、提高GPU使用率。还给出使用方法及代码示例，不过测试性能未达预期，需关注后续发展。
烧钱一年，李飞飞的「空间智能」愿景有变化吗？
在a16z主持的访谈中，李飞飞和Martin Casado探讨「世界模型」等话题，重新介绍World Labs愿景。李飞飞指出语言模型描述3D世界有局限，空间智能是关键，公司已推出相关技术和开源渲染器。
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，GitHub 近 15K Stars，月均下载量超 10 万次，被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享关键技术等内容，6 月 27 - 28 日他将在 AICon 演讲。
Qwen3家族训练秘籍公开：思考/非思考融进一个模型，大模型蒸馏带动小模型
Qwen3技术报告揭晓8款模型关键技术，采用双模式架构，训练和微调分段进行，还“大带小”蒸馏数据。其融合思考与非思考模式，训练分多阶段，Qwen Chat还全量上线深度研究功能。
Agentic RL 后训练资源怎么分？港中文、恒生大学提出 Libra，吞吐最高提升 3 倍
大语言模型走向“完成任务”，Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统，统一优化训练与 rollout，在多任务中提升吞吐，论文与代码已公开。
英伟达MoE新开源：一行import，微调加速3.7倍
英伟达开源NeMo AutoModel，基于Hugging Face Transformers v5，不改代码API，添一行import就能更快速微调MoE模型。实验显示，它能提升3.4 - 3.7倍训练吞吐，减少29% - 32% GPU显存占用。
同济出手！国产AI，第一次进攻土木工程
近年来AI应用发展迅速，从「理解数字世界」迈向「改变物理世界」。海光携手同济大学推出全国首个国产千卡工科智算集群，为AI4E时代提供解决方案，助力其从实验室走向工程实践。
AI 企业 Day 0 出海，如何少走技术弯路？
InfoQ与多家AI出海企业交流发现，很多企业放弃常见Agent平台和流行框架，选择自研全栈平台。GMI Cloud升级产品，构建完整基础设施图谱，解决全球算力部署、模型调用和Agent商业化落地问题。
最新消息：美国批准英伟达H200出口10家中国企业，黄仁勋这趟没白来
路透社消息，美国批准英伟达向10家中国企业出口H200芯片，联想和富士康成分销商。黄仁勋强调中国市场重要，预言2026年技术大爆发。业内分析此次松绑或因商业压力等，对国内AI产业有积极影响。