「无用内容」共找到 854 篇相关文章
如何利用pytorch memory snapshot进行显存分析
文章聚焦于用pytorch memory snapshot分析模型训推显存消耗,不讨论工具使用,侧重解读记录内容。以混合精度训练为例,介绍各步骤显存管理细节,还给出单层、双层模型及zero1训练的显存分析。
烧钱换能力,老员工经验作废!一线Agent厂商、用户经验亲述:抛弃技术驱动,巨额投入如何不打水漂?
集成 AI Agent 竞赛打响,2024 年中国 AI Agent 软件市场规模破 50 亿。InfoQ 对话来也科技汪冠春和英科医疗陈坤,从不同角度谈产品理念与应用策略,涉及引入时间、定位、推广、架构调整等多方面内容。
离开一手做大的饿了么 6 年后,他带着 7 亿估值的 AI 公司杀回来了
近日,新加坡AI应用开发商Orion Arm获1100万美元A轮融资,投后估值达1亿美元。其创始人是前饿了么联合创始人汪渊,已发布智能日程管理应用Toki AI和资讯工具Syft AI两款产品,目标三年内让用户达1亿。
2025AI产品用户需求调研报告:AI产品的用户类型细分与画像分析 | 甲子光年智库
甲子光年智库基于调研数据开展AI产品用户研究,分析目标用户界定、类型细分与画像。指出新一代AI会重塑用户习惯,需探寻产品最终形态,还给出用户需求、类型分布等多方面结论。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”?
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”?
InfoQ《极客有约》X AICon 直播,邀请华为昇腾专家 ZOMI 酱、蚂蚁集团马介悦和 SGLang 尹良升探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代策略、推理部署优化、开源项目挑战等内容。
Karpathy 最新演讲精华:软件3.0时代,每个人都是程序员
Andrej Karpathy 在 YC 旧金山创业大会演讲,介绍软件从 1.0 到 3.0 的演变,指出软件 3.0 由 LLMs 驱动,自然语言提示成编程方式。还阐述 LLMs 特性、机遇与挑战,强调为 Agent 构建软件等内容。
免费使用Sora!微软发布Bing Video Creator
今天凌晨微软官网发布Bing搜索引擎新功能Bing Video Creator,由Sora支持,免费提供服务。介绍了使用方法、视频生成规格、注意事项等,还提及防滥用措施及内容溯源信息。目前国区未开放,可用美版。
小米发布Qwen2.5VL升级版MiMo-VL,能力提升30%
小米发布Qwen2.5VL升级版MiMo-VL,能力提升30%。它能完成输入视觉回答问题、做几何体等任务,重点解决多模态推理、视觉理解及与人类偏好对齐问题,介绍了模型结构、训练阶段等内容。
从零开始200行python代码实现LLM
文章从传统思路出发,用Python实现极简大语言模型,介绍从零基础到Bigram模型的过程,包括词汇表、模型训练推理等内容,还讲解了PyTorch基础,最后实现pytorch版Bigram模型,后续将实现完整GPT。