「数据训练」共找到 3908 篇相关文章
哈萨比斯出的难题，GPT之父接上了：用一个知识停在1930年的模型
GPT之父Alec Radford等用1931年前数据训练13B模型Talkie，切断现代知识污染。研究者测试其能力，探讨它对未来的“预感”、规避污染问题及数据多样性等，同时训练中也面临时间泄漏、数据质量等难题。
别只盯着李飞飞！AI的「3D数据底座」已被这家中国公司悄悄建好
群核科技构建具身智能时代的「3D版ImageNet」，其SpatialVerse平台为机器人提供三维数据与仿真环境。借助新技术发布全球首个3D语义数据集InteriorGS，还与多机构合作，成果获学术和产业认可。
【独家】对话汤元科技任冬淳：物理AI的瓶颈，在于训练体系｜甲子光年
对话汤元科技任冬淳，探讨物理AI瓶颈。他认为物理AI瓶颈在训练体系，要满足数据结构质量、训练验证闭环、数据规模效率三要求。汤元构建训练底座，为具身智能和智驾提供服务，具身智能是未来重心。
20亿美金苏度科技具身首秀即大招！0真机数据，zero-shot，跑出98%首次抓取成功率
苏度科技发布软硬件全栈自研的机器人系统R1，采用世界模型与强化学习一体化设计，在不使用真机数据的前提下，实现关键任务近100%的Zero-shot成功率。苏度团队通过重新定义数据范式，解决了具身智能发展的核心瓶颈。
表格建模也能Scaling？树模型的时代要改变了
文章指出 AI 算力增长与结构化数据建模以树模型为主形成反差。浙大 X 蚂蚁 AIforData 团队探索结构化数据预训练，在表格数据和行为序列预训练上有成果，验证了 Scaling Law，预示结构化数据建模范式将改变。
为什么BF16的FlashAttention会把训练「炸掉」？清华首次给出机制解释，用极简改动稳住训练
社区里长期存在的FlashAttention+BF16训练GPT - 2时loss突然爆炸的问题，清华团队论文给出机制解释。指出是特定条件下数值偏置被放大所致，还给出极小修改稳定训练，且在多模型和硬件上验证有效。
流式数据集：效率提升 100 倍！
现在只需一行代码，就能通过 `load_dataset('dataset', streaming=True)` 以流式方式加载数据集，无需下载。Hugging Face 优化后端，提升流式数据集速度与效率，减少请求、提升解析速度，还优化启动和流式加载阶段。
LLM的RL训练轨迹竟然是线性的？Miaow Lab｜新工作：无需继续训练，直接“预测”未来模型！
文章介绍《Not All Steps are Informative: On the Linearity of LLMs' RLVR Training》，揭示RLVR训练中LLM权重和输出概率线性变化，提出“权重外推”法，可实现6.1倍训练加速，还介绍三种策略及实验结果。
TACL 综述 | 别只卷架构了——长文本模型的能力天花板，其实是数据决定的
该 TACL 综述首次从数据视角审视长上下文语言模型，指出长上下文能力本质是数据驱动。它建立分类体系，明确高质量长文数据条件，给出核心能力的数据配方与评估法，还整理数据集和基准，提出待解问题。
训练提速4.6倍！FP4+BF16双轨并行，NVIDIA×港大×MIT联手重新定义扩散模型训练速度上限
NVIDIA、港大、MIT团队提出Sol - RL，采用「FP4先探索、BF16再训练」框架，将扩散模型训练收敛速度最高提至4.64x，在速度与对齐效果间给出工程可行解法。