「Infra」共找到 80 篇相关文章
押中 Figma、Scale AI 的 Thiel Fellowship， 今年下注哪些 AI 方向？
Thiel Fellowship 由 Peter Thiel 2011 年创办，为入选者提供资金与支持。2025 年入选者地域更广，项目聚焦 AI 等领域。热门方向有 AI Infra、金融 Infra、可编程生命系统，创始人年轻、跨界、实验性强。文中还介绍了多个亮点项目。
揭秘千卡 GPU 集群如何高效训练多模态大模型：vivo AI 团队实战经验分享｜AICon
在 InfoQ 举办的 AICon 大会上，vivo AI 架构师王兆雄分享多模态大模型训练经验。介绍了 LLaVA 和 DiT 模型训练挑战，从数据处理、模型计算等方面提出优化策略，还展望 AI Infra 未来发展方向。
创业者思考：如何做 AI Agent 喜欢的基础软件？
作者黄东旭指出Infra软件主要使用者正从开发者转向AI Agent，以TiDB Cloud为例说明趋势已现。他探讨如何做AI Agent喜欢的基础软件，从心智模型、接口设计、必要特征、商业模式等方面给出建议。
实测丨全新的「扣子编程」，全新的 Vibe Infra
作者见证扣子多次迭代，虽其曾沉寂，但近期更新打消疑虑。扣子推出「扣子编程」，拥抱 Vibe Coding，打造三大核心功能矩阵。作者实测其功能，从想法到成品速度快，还能一键部署，软件开发门槛降低。
AI Infra进阶：如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略，因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响，给出vLLM实现Batch Invariance的方法。
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
首个大规模记忆湖发布，AI Infra跑步进入“记忆”时代
LLM是AI的“第一大脑”，记忆平台是“第二大脑”。当前AI企业应用进入生产力时代，竞争聚焦“隐性知识”记忆化。质变科技发布MemoryLake，具备多方面能力，在性能上优势显著，已服务众多用户和企业。
行业迎来大洗牌！4万 Agent 挤进一个机柜，AI Infra 要如何构建？
当 AI 从聊天机器人变为 Agent 后，AI 基础设施逻辑改变。浪潮信息副总经理赵帅判断，Agent 迫使 AI 基础设施重新分工，带来新的 CPU 计算需求。企业需关注资源分配、成本控制、系统重构等问题。
全行业的「龙虾热」中，什么是AI Infra下半场的「神之一手」？
OpenClaw爆火，标志AI进入「自主执行时代」，但面临安全、资源利用和并发规模等挑战。腾讯云Agent Runtime为企业级AI智能体打造专业支持，解决状态管理和行为治理难题，还助力MiniMax突破性能瓶颈。
狂拿大模型明星订单，一家清华系HPC-AI Infra公司浮出水面
本文介绍清华系计算创业公司是石科技，其93年创始人闫博文不囤算力仍拿下大模型明星公司订单。团队技术实力强，3次获戈登·贝尔奖。公司构建全栈能力，为多领域提供服务，未来想以算力赋能各行业。