「预训练数据精炼」共找到 3915 篇相关文章
小目标检测难点分析和解决策略
文章基于24年综述论文，分析小目标检测难点，如特征不足、难区分背景等，还给出主流改进方法，涉及数据增强、特征提取、特征融合、损失函数、训练策略等方面，介绍多种算法及效果。
OpenAI去年挖的坑填上了！奖励模型首现Scaling Law，1.8B给70B巨兽上了一课
全新奖励模型「POLAR」采用对比学习范式，摆脱对海量人工标注依赖，有强大Scaling潜力。它衡量训练与目标策略「距离」作奖励信号，用自动化合成数据预训练，小模型能超越大数十倍规模对手。
蚂蚁出手VLA，就是开源超越Pi0.5的基座模型
当前具身智能落地面临泛化能力不足的挑战，蚂蚁灵波开源发布的基座模型 LingBot-VLA 带来突破。它基于大量真实世界数据预训练，在多项真机任务测试中超越 Pi0.5，且在架构、效率等方面有创新。
Clawdbot 之后，我们离能规模化落地的 Agent 还差什么？
OpenClaw爆火，但在企业和商业环境中存在昂贵、不可控等问题。Monolith砺思资本技术沙龙探讨Agent规模化落地难题，指出需关注稳定性等指标，还分析了数据成本、训练速度、基础设施、状态管理等方面的困境与解决思路。
击败 GPT-5！理想汽车开源 RubricHub：大模型开放生成从此有了专业裁判
理想汽车基座模型团队联合高校发布RubricHub数据集，解决开放式任务评价难题。该数据集可将主观评价转化为量化标准，经其训练的Qwen3 - 14B小模型在医疗基准测试中超越GPT - 5。
长达790年视频镜头，打造原生多模态世界模型！北京智源研究院用Emu3.5统一“世界”
北京智源研究院发布并开源基于原生多模态训练的世界学习者Emu3.5，它将视觉和语言视为同一种数据流，在超13万亿token数据上学习，解决长视野多模态信息处理问题，经多阶段训练和优化，能力强大且已开源。
建模世界偏好：偏好建模中的Scaling Laws
研究首次揭示人类偏好建模遵循Scaling Law，从论坛收集数据在Qwen 2.5模型训练，发现测试损失随训练规模指数增长线性下降。提出建模世界偏好，论文和模型已开源，还探讨了偏好建模可扩展性等问题。
从衣服到饰品：OmniTry 实现珠宝、包袋等多类可穿戴物品的虚拟试穿
Kunbyte提出OmniTry，将VTON从服装扩展到任意可穿戴物品，采用无掩码设定。它经两阶段处理流程训练，在12种常见物品类别评估中表现优，有扩展潜力，但也存在训练数据类别限制等局限。
GPT之父把AI扔回1930年：没见过一行代码，却「发明」了Python！
GPT之父Alec Radford带队发布总参数130亿的大模型「talkie」，其训练数据冻结在1930年，没学过编程却能写Python代码，证明LLM可用旧知识推理。团队后续还有升级计划。
DeepSeek-V3.2正式版发布，将开源模型的能力推向极致
DeepSeek-V3.2正式版开源，包含标准版和Special版。它采用稀疏注意力机制，降低计算复杂度。后训练阶段有多项算法改进，支撑高难度推理。还融合思考与工具使用，合成训练数据，在智能体评测表现优异。