「预训练时代」共找到 3275 篇相关文章
耶鲁大学新研究揭示 AGI 时代的残酷现实
耶鲁大学新论文揭示AGI时代残酷现实，人类将失去经济价值。AGI会自动化“瓶颈”工作，人类从事“辅助性”工作，工资取决于计算成本，劳动收入占比趋近零，应思考财富重新分配。
AI时代，为什么我极力推荐你开始写日记？
本文指出在AI时代，日记是个人存在于世界的真实锚定。马伯庸、罗振宇都重视记录，作者介绍低门槛日记方案，强调日记要真实，还可让AI做回顾，呼吁大家从现在开始记日记。
快速行动，创造未来：AI时代的职业新法则——LinkedIn联合创始人给即将踏入AI时代职场的毕业生一些忠告
LinkedIn联合创始人Reid Hoffman给即将踏入AI时代职场的毕业生忠告。虽就业形势严峻，但毕业生应兴奋，主动驾驭AI，用其优化职业，具备AI素养，发挥主动性，重视人际关系，创造未来。
R1时代，RAG-Retrieval技术总结与展望~
RAG - Retrieval提供全链路RAG检索模型微调、推理及蒸馏代码，支持多模型、多loss和训练方式。还发布模型技术报告，设计评估框架，未来探索RL在检索领域应用。
亚马逊裁员 3 万人：AI 时代的结构性裁员
多家媒体报道亚马逊计划裁减 3 万个岗位，涉及多部门，约占企业白领员工总数 10%。这或是对“疫情高峰期过度招聘”的校正，也是 AI 时代的结构性裁员，AI 投入使人工岗位减少。
AI 时代到底该怎么管一个工程团队
Fiona Fung在Anthropic大会分享AI时代管理工程团队经验，指出软件工程瓶颈转移，需重构流程，介绍了少做和多做的事、技术辩论方式、代码评审分工等内容，还提及组织形态、指标及未解决的问题。
Agent时代，为什么多模态数据湖是必选项？
AI时代，数智化底层是基建深耕。企业要构建多模态数据湖，因其能处理多模态数据，唤醒沉睡数据，驱动业务，还提供工程确定性。火山引擎给出升级路线及选型指南，其多模态数据湖已在多行业落地。
Meta华人新秀毕树超，重磅爆料下一代LLM路线！RL+预训练直通AGI
OpenAI前研究员、Meta成员毕树超在哥大演讲指出，AGI需高质数据、好奇驱动探索与高效算法，Scaling Law有效，规模决定智能，终身学习是重点，还探讨了AGI面临的诸多问题与挑战。
OpenVision 2：大道至简的生成式预训练视觉编码器
多模态大模型浪潮中，视觉模块是关键。此前OpenVision训练管线复杂，成本高。研究者提出OpenVision 2，移除文本编码器与对比学习，引入随机丢弃视觉token技巧，性能佳且效率高，挑战了对比学习范式。
深度学习中Batch Size对训练过程如何影响？
文章分析深度学习中batch size对训练过程的影响，探讨超大batch优缺点及应对方法。用面试、通俗、科学三种方式解答问题，还通过MNIST实验，从迭代速度、梯度平滑程度、收敛速度等指标对比不同batch size情况。