Infra」共找到 80 篇相关文章

推荐文章7

GPU到底是如何工作的?这篇AI Infra入门全部告诉你

本文详细介绍了GPU工作原理及编程模式。它从图形渲染发展到GPGPU,NVIDIA推动其通用计算。还阐述了CPU/GPU异构架构,对比二者性能,介绍编译、加载、启动过程,以及GPU硬件架构、编程与执行模型,分析SIMD和SIMT。

腾讯技术工程
开源动态8

从服务器 OS 到 Agent 沙箱:腾讯云如何打通 AI Infra 的生态底座

文章指出代码生成快但执行边界缺可靠设施,腾讯云开源 Cube Sandbox 项目。它基于 MicroVM 路线,突破隔离、速度、密度等门槛,v0.2.0 版本降低部署门槛。与 OpenCloudOS 9 组合,提供全链路开源可控路径。

InfoQ
开源动态8

开源共建重塑推理 Infra:从架构创新到生态协同,Mooncake的破局之路

大模型推理落地面临成本、吞吐、长上下文“三角困境”。开源项目Mooncake以“计算存储解耦”为核心,通过PD分离等技术提供底层支撑。直播邀请专家从多视角拆解其技术逻辑、开源价值与企业实践。

InfoQ
产品应用8

告别胶水代码,5倍飚速!无问芯穹首次揭秘,Infra智能体蜂群登场

无问芯穹推出基础设施智能体蜂群,这是新一代基础设施智能化解决方案。它封装多个智能体模块,构建全生命周期智能闭环,提升资源利用率等。在重点客户业务流程落地效果好,能让开发者解放价值。

新智元
8

奇绩创坛 2025 春季路演:Agent、具身、Infra、AI4S,57 个项目完整介绍

奇绩创坛2025年春季创业营路演日,57家公司参与。项目集中在场景智能、空间/具身智能等方向,覆盖AI Agent、智能硬件等赛道,还展示了前沿科研和创业项目。文章介绍了各项目的一句话介绍、简介和团队情况。

Founder Park
推荐文章8

AI Infra进入自进化时代!清华团队用「AI优化AI」造就国产万亿Token工厂

AI自主优化RSI成新焦点,被视为通往AGI的关键路径。硅谷为此沸腾,中国也不落后。清昴智能由清华团队创立,率先打造自进化算力底座,还基于国产算力打造万亿Token工厂,目标是让优化成为持续运行的基础能力。

量子位
新闻资讯8

IDC 最新AI Infra报告解读|AI 云爆发的背后:AI 应用全球化势不可挡

近期 IDC 发布报告,显示亚太企业 GenAI 应用增长快,AI 产业从开发到应用落地。这催生 AI 原生云,GMI Cloud 等新兴厂商崛起。同时,企业面临算力管理成本高问题,推理需求重塑市场格局,为中企出海带来机遇。

InfoQ
产品应用8

8块钱跑通一次强化学习全流程,潞晨云重塑微调赛道:1名算法工程师=1支Infra团队

大模型下半场,后训练特别是强化学习成核心战场。潞晨云微调SDK上线,它是国内首个全面开放、且兼容Tinker范式的Serverless微调平台,为强化学习提供低成本解法,在易用性和成本上有优势。

量子位
产品应用8

1人顶1个Infra团队!OpenAI前CTO新招,让大模型训练跌成白菜价

大模型训练正从‘作坊炼丹’进化为‘工业微调’。OpenAI前CTO创立的Thinking Machines Lab推出Tinker,潞晨云微调SDK兼容其范式,实现算法设计与基础设施解耦,降低成本,提升人效,适用于多场景。

新智元
产品应用7

模力工场 022 周 AI 应用榜:记忆型 AI Infra PowerMem 登顶榜首,本周 AI 应用全面升级“长期主义”

模力工场 022 周 AI 应用榜揭晓,PowerMem 登顶。榜单涵盖底层基础设施与各类应用,体现 AI 满足多样需求趋势。采访 PowerMem 开发者,介绍其功能、优势、使用反馈及未来目标,还推荐了 GetDraft 起稿等应用。

AI前线