「内容产品」共找到 2320 篇相关文章
如何利用pytorch memory snapshot进行显存分析
文章聚焦于用pytorch memory snapshot分析模型训推显存消耗，不讨论工具使用，侧重解读记录内容。以混合精度训练为例，介绍各步骤显存管理细节，还给出单层、双层模型及zero1训练的显存分析。
AI 编程冲击来袭，程序员怎么办？IDEA研究院张磊：底层系统能力才是护城河
在AICon全球人工智能开发与应用大会上，IDEA研究院张磊接受专访，剖析多模态智能体落地路径，分享工业界平衡研究与产品的见解，还为年轻人在AI浪潮中发展给出建议，指出底层系统能力是关键。
他一人撑起谷歌90%的AI宣传，劈柴真是挖到鬼才了
Logan Kilpatrick被谷歌从OpenAI挖来，虽非高管、研究员，却成谷歌AI“宣传达人”，一人包揽约90%营销工作。他推动AI Studio发展，助力谷歌整合团队，获晋升负责更多产品，还受开发者好评。
比女皇报告还炸裂！67页AI深度调研刷屏，全球LLM大决战真正开始
硅谷财富管理巨头Iconiq Capital发布《2025年AI现状报告》，实测300家AI公司落地路径，揭示AI从概念走向实战的七大真问题，解析从构思到部署AI产品路径，核心关注高效构建、规模化落地等。
AICon上海演讲精华回顾：《GMI Cloud 全球化高性能分布式推理服务构建实践》
AICon2025上海站，GMI Cloud资深架构师Frank Lee分享《GMI Cloud全球化高性能分布式推理服务构建实践》，介绍其推理平台，拆解扩缩容等能力，分享架构设计、部署及优化实践，揭秘推理提效关键路径。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。
TRAE 如何思考 AI Coding ：未来的 AI IDE，是构建真正的「AI 工程师」
越来越多玩家涌入AI Coding赛道，TRAE作为国内首个AI Native的IDE有独特想法。其产品经理Leon认为未来是「AI+工具」模式，推出Solo模式，还分享相关思考、功能及场景，TRAE月活已超百万。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播，邀请华为昇腾专家 ZOMI 酱、蚂蚁集团马介悦和 SGLang 尹良升探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代策略、推理部署优化、开源项目挑战等内容。
GitHub 8k star！AI Gateway 如何帮你3行代码接入1600+ LLM，实现成本、可靠性与安全三赢？
Portkey AI Gateway是面向生产环境的开源AI Gateway，支持超1600款模型，通过1个API接口实现快速、可靠、安全的模型路由。它能解决产品开发和使用中的痛点，有统一API接口等核心功能。
Karpathy 最新演讲精华：软件3.0时代，每个人都是程序员
Andrej Karpathy 在 YC 旧金山创业大会演讲，介绍软件从 1.0 到 3.0 的演变，指出软件 3.0 由 LLMs 驱动，自然语言提示成编程方式。还阐述 LLMs 特性、机遇与挑战，强调为 Agent 构建软件等内容。