「预训练研究」共找到 3718 篇相关文章
社区供稿丨揭秘端到端文档OCR模型 POINTS-Reader
腾讯开源端到端文档OCR模型POINTS-Reader，论文被EMNLP 2025主会录取。它提出可扩展数据生成方案，具简洁、性能好、高吞吐量等特点，通过两阶段训练方案解决依赖蒸馏数据问题，在多基准测试表现佳。
POF|清华大学张宇飞团队：采用数据驱动湍流模型的三维增升装置模拟
传统RANS方法预测分离流动有挑战，数据驱动湍流模型泛化性能有局限。清华大学张宇飞团队研究其在复杂三维增升装置应用，验证SST - CND模型泛化能力及修正项迁移能力，证明其可用于真实工程流动问题。
DeepMind掌门自曝AGI倒计时5年！算力需求暴增10倍，推理计算吞噬一切
在最新播客中，DeepMind掌门Hassabis表示自然界规律能被机器学习算法模仿。他畅想AGI应用于游戏，还提及迈向AGI要扩大计算规模，算力需求或增10倍，且运营上以初创公司模式兼顾研究与产品。
没想到，最Open的开源新模型，来自小红书
向来低调的小红书昨日开源首个自研大模型 dots.llm1，它是中等规模的 MoE 模型，在较小激活量下性能良好。其开源力度堪称行业最大，还介绍了数据处理、训练优化等多方面技术细节。
200行python代码实现从Bigram模型到LLM
本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。
突破多模态奖励瓶颈！中科院清华快手联合提出R1-Reward，用强化学习赋予模型长期推理能力
多模态奖励模型（MRMs）对提升多模态大语言模型表现至关重要，强化学习理论上可引入长期推理能力，但现有RL算法用于训练MRM会不稳定。中科院、清华等团队推出R1 - Reward模型，在多模态奖励模型benchmark上有显著提升。
震惊海外开发者！BOSS直聘3B小模型比肩80B，怎么做到的？
BOSS直聘楠北阁团队发布3B轻量端侧小模型Nanbeige4.1-3B，性能震惊海外开发者。团队从多方面改进，如优化推理和偏好对齐，重构训练数据，采用多种强化学习算法，使其性能比肩大模型。
Nature科学报告：对AI的焦虑，理科偏接受学习，文科偏批判回避
青海大学等团队在《Nature》科学报告发文，调查三所川校师生对AI的焦虑与采用意愿。研究构建新框架，整合三种AI焦虑，发现不同焦虑对技术接受影响不同，学科和自我效能也会调节转化路径。
DeepSeek比你更懂反思！谷歌重磅发现，智能的本质竟是一场社会化对话
谷歌等机构研究发现，像DeepSeek - R1等推理模型思考复杂问题时，内部模拟多角色辩论赛，形成思维社会机制，让AI准确率提升，证明智能本质或是内化社会互动，还为调优AI提供新方法。
4倍速吊打Cursor新模型！英伟达数千GB200堆出的SWE-1.5，圆了Devin的梦！实测被曝性能“滑铁卢”？
Cognition推出全新AI编码模型SWE-1.5，专为软件工程任务设计，运行速度快，在基准测试中成绩良好。它基于GB200芯片训练，有定制编码环境，开发有新战略，还与Cursor新模型Composer对比引发关注。