搜索：三阶段流水线

「三阶段流水线」共找到 1569 篇相关文章

LLM的下一战：从狂卷数据到精算数据

大模型竞争核心正从比拼数据规模转向数据使用效率和风险管理。文章分享2025两篇论文，介绍高效训练和机器遗忘两赛道，前者有数据价值飞轮5大模块，后者提出三时段分类法、三层次遗忘及评价指标全景。

2025年前三季度，英伟达参与50笔AI风投超去年全年。投资覆盖基础设施、模型厂商、应用等领域。其AI俱乐部有32家公司，分三档。英伟达鲜少领投，黄仁勋不信AI有泡沫，投资能锁定硬件订单。

快手开源能看懂视频并跨模态推理的大模型Keye-VL 1.5，其有时序定位、描述和推理能力，跑分领先。采用三段式架构和Slow-Fast编码策略，经四阶段预训练和多阶段后处理，团队成果多，推动多模态技术落地。

字节跳动Seed团队在arXiv发表论文，提出预训练模型平均（PMA）技术。该技术将模型合并引入预训练阶段，可提升性能、预测衰减阶段表现，还能解决训练问题。不过，高学习率影响和强化学习应用待研究。

蚂蚁百灵大模型团队开源 MoE 大模型 Ling-flash-2.0，其以轻量级配置展现卓越性能，在推理速度、任务性能、部署成本间找到新平衡，为大模型‘参数膨胀’提供新路径，还在多领域应用表现出色。

AI研究员Aran Komatsuzaki实验发现，Claude的tokenizer对非英语用户不友好，印地语用户消耗token是英语的3.24倍，带来高成本、高延迟等问题。不同模型对不同语言token处理有差异，市场份额影响token效率。

Pixelle-Video是一款AI剪辑神器，输入主题就能自动完成视频创作，零门槛。它采用模块化设计，流程清晰，各环节可灵活定制。支持多种AI模型、TTS方案，有丰富功能亮点。

大型语言模型处理长上下文时通常准确性降低、速度变慢，研究人员提出TTT - E2E方法，通过推理时训练模型将上下文压缩到transformer权重中，还展示了其运作方式、测试结果等。

10月24日英特尔公布2025年第三季度财报，营收137亿美元同比增3%，营业利润15亿美元创一年新高。各业务有不同表现，还在本季度获政府资金、与NVIDIA合作等，强化了资产负债表。

2025年观猹平台创业，发现黑客松参与者需求，于是发起环球黑客松。1月16日杭州首站开启，筹备艰难但收获好评。活动趣事多，还公布各赛道获奖团队，后续会改进不足，期待下一站。