「预训练数据精炼」共找到 3943 篇相关文章
来了，DeepSeek又悄悄开源LPLB项目
DeepSeek 悄悄开源 LPLB 项目，该项目解决 MoE 小批量训练专家每批 token 数抖动问题。LPLB 在 EPLB 基础上，将‘冗余专家’看成带容量边的图，每批解一次线性规划，实现 token 重新路由，单节点 100µs 级求解。
一次性应用出现，个人独角兽崛起：顶级布道师Jeff Barr论AI如何重塑开发者生态｜InfoQ独家采访Jeff Barr
InfoQ 独家采访亚马逊云科技核心奠基人 Jeff Barr，探讨 AI 对开发者生态的变革。他认为 AI 是能力放大器，将催生一次性应用和个人独角兽，开发者角色转变，沟通和数据更重要，还介绍了应对建议及 Kiro 挑战活动。
重新思考RLVR中的熵正则：从探索不足到探索过度的破局之路
2024年以来，RLVR使大模型在推理任务有显著突破，但实践中探索机制易失衡。传统熵正则化在LRM场景易走向极端，研究团队提出SIREN方法精准调控探索，实验显示其在多模型和数据集上性能提升显著。
通义实验室正式开源 Mobile-Agent v3.5 及新一代多平台 GUI Agent 基座模型 GUI-Owl-1.5
通义实验室正式开源 Mobile - Agent v3.5 及新一代多平台 GUI Agent 基座模型 GUI - Owl - 1.5。该模型有多档参数可选，分 Instruct 和 Thinking 版，支持多平台。它解决了高质量数据难搞定等痛点，评测表现良好。
18个月月收33万刀！起底“AI套壳”生意经：是昙花一现还是隐形金矿？
文章探讨AI套壳生意，指出开发者调用现成API做应用，这类应用有昙花一现的，也有长成产品的。套壳应用面临模型访问权和分发渠道两大挑战，但利基市场有机会，成功产品需有结果主导权和专有数据。
所有人看见了「大晓速度」，但真正值钱的是它背后的这套系统
过去一年大晓机器人在具身智能行业成果显著，首创研发范式和数据采集方案，推出世界模型并实现端侧部署，其行业方案进入真实场景。它从具身第一性原理出发，让信息低成本入模转化为生产力。
为什么给机器人装上昂贵的触觉传感器，反而让它变笨了？
伊利诺伊大学香槟分校等多校合作研究发现，当前机器人学习主流的多传感器融合算法（特征拼接）在处理任务时存在局限，给机器人加触觉数据会使抓取成功率暴跌。研究提出组合策略解决问题，经测试效果显著。
中国AI芯片迎「华为时刻」
国内AI芯片市场正经历变革，“去英伟达化”成热词。科技巨头推动自研，9月国产芯片捷报频传，性能追赶超越英伟达。这既因地缘政治致供应链风险，也是AI从训练到推理转变下的必然选择。
斯坦福发布预警信号：生成式AI正如何重塑就业市场？年轻职场新人首当其冲
斯坦福大学Erik Brynjolfsson教授领衔的论文，用海量高频薪资数据研究AI就业效应。发现高AI暴露职业中年轻职场新人就业显著下降，自动化型AI应用致就业降，增强型则无，还给出年轻人受影响大的原因。
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。