「训练技术」共找到 4594 篇相关文章
NVIDIA技术沙龙《强化学习流水线优化：性能分析与 Rollout加速》演讲笔记
该演讲笔记围绕强化学习流水线优化，强调用Nsight Systems做性能分析，介绍在Ray Actor添加参数及解读文件方法。给出训练/生成参数优化技巧，如Actor训练和Rollout优化，还以Qwen 2.5 7B等模型为例总结参数调优经验。
Agent Token焦虑：当每次对话都在「烧钱」，技术如何破局？| GAIR Live 029期预告
GAIR Live 029 期线上圆桌将直击 Agent Token 焦虑的底层技术逻辑，邀请技术负责人从架构重构与系统优化双重视角，拆解 Claw 类产品如何从烧钱走向省钱。探讨成本解剖、架构升维、系统优化等核心议题。
数据减少超千倍，500 美金就可训练一流视频模型，港城、华为Pusa来了
香港城市大学与华为香港研究所合作推出 Pusa 项目，它基于 FVDM 理论，可极低成本微调大规模预训练视频模型，成本降超 200 倍、数据减少超 2500 倍，代码已开源。
传言：中国AI 公司人肉运硬盘到马来西亚训练模型，美国芯片禁令形同虚设？
《华尔街日报》传言中国AI公司工程师人肉运硬盘到马来西亚训练模型。美国芯片禁令下，中国公司难进口先进硬件，采用复杂方式规避。任正非和黄仁勋都认为可集群补单芯片性能，美国制裁效果堪忧。
谷歌分布式训练开启另一轮扩展定律！百万芯片高压高故障仍然零全局停机
谷歌Decoupled DiLoCo研究打破大模型训练锁步模式，让集群各部分异步汇合。模拟数百万芯片高压训练时零全局停机、性能无损，还能提升系统有效工作时间，有算力撷取和异构计算等红利。
ACL 2025｜自我怀疑还是自我纠正？清华团队揭示LLMs反思技术的暗面
本文指出反思技术虽简单有效，但在多种LLMs和任务中会失败。清华团队剖析其在开源和闭源LLMs、四种任务上失败原因，提出轻量级缓解方案，为反思技术可解释性研究奠基。
1人顶1个Infra团队！OpenAI前CTO新招，让大模型训练跌成白菜价
大模型训练正从‘作坊炼丹’进化为‘工业微调’。OpenAI前CTO创立的Thinking Machines Lab推出Tinker，潞晨云微调SDK兼容其范式，实现算法设计与基础设施解耦，降低成本，提升人效，适用于多场景。
最新内幕！GPT-5没能取得技术突破，OpenAI核心投奔小扎另有隐情
据内幕消息，OpenAI面临数据瓶颈和技术难题，GPT - 4.5未达预期，GPT - 5转向实用改进。同时，公司存在技术转化问题、内部关系紧张等挑战，还在与微软谈判，也在为IPO做准备。
直击WAIC：萝卜快跑入选「国家队」，AI数字人技术升级，百度全栈自研杀疯了
在世界人工智能大会 WAIC 上，百度成果亮眼。萝卜快跑入选「国家队」，出海进展快，还与 Uber 合作；数字人技术升级，发布 NOVA。百度靠全栈自研技术体系支撑，目标是打造数百万个超级应用。
调整训练数据出场顺序，大模型就能变聪明！无需扩大模型/数据规模
微软亚洲研究院提出全新文本数据组织范式DELT，通过引入数据排序策略，充分挖掘训练数据潜力，优化训练数据的组织方式，在不同模型尺寸与规模下都达到了良好性能，且不用增加数据量或扩大模型规模。