搜索：混合精度训练

「混合精度训练」共找到 2472 篇相关文章

AI Infra 工程师们如何应对大模型流水线里的“暗涌”？

InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。

上海交大等机构团队在ICML 2025提出预测一致性学习（PCL），通过扩散过程消减标签信息，引入噪声标签，将标签学习分解为渐进式任务，实现标签信息复用。在多模态任务实验中，PCL表现优于传统监督学习。

Meta和Google合作的论文探讨现代语言模型对训练数据的“记忆”情况。研究发明新方法精确测量“记忆”量，发现模型记忆有上限且与参数线性相关，还揭示学习转折、隐私规律等重要结论。

今天凌晨，阿里开源创新自主搜索AI Agent——WebAgent，具备端到端自主信息检索与多步推理能力。还介绍了WebDancer框架从数据构建到训练优化各阶段，助其完成复杂信息检索任务。

最新爆火论文颠覆传统RL训练认知，华盛顿大学等团队证实「伪奖励」可让LLM推理性能提升。研究设置多种伪奖励形式实验，发现其对Qwen模型有效，但并非对所有模型都有效。

文章详细介绍大型语言模型（LLM）微调知识与实践，包括模型结构、参数量等知识，以及Prompt工程、数据构造、LoRA微调等技术点。还给出微调实践流程，介绍相关平台和框架，如星云、TuningFactory等。

文章指出现有文档图像解析方案有局限，介绍字节跳动的Dolphin解决方案。它采用分析 - 解析范式分两阶段解析文档，避免传统方法弊端，运行效率高，还给出训练方案、实战代码和试用链接。

文章围绕TensorCore和Inline PTX Assembly展开，介绍利用PTX指令发挥TensorCore潜力。讲述矩阵乘法和累加操作，给出半精度及替代浮点指令形式，有代码示例并分析，还提到不同数据类型用法及SASS指令。

2025年5月9日，雷峰网等举办“具身智能之VLA的实践与突破”线上圆桌沙龙。多位专家探讨VLA定义、起源、技术路线等，指出其面临推理、数据等瓶颈，还讨论了与强化学习结合、数据选择、提升泛化性、长程任务及落地场景等问题。

西湖大学吴泰霖课题组联合多方提出“组合生成式多物理场多元件PDE仿真（M2PDE）”，将仿真问题视为生成式概率建模任务。该成果在多任务测试中表现卓越，被ICML 2025接收。