「预训练研究」共找到 3687 篇相关文章
蚂蚁VLDB最佳论文：用一张“逻辑表”驯服3050亿条训练数据
蚂蚁集团论文《OmniTable: A Unified Wide-Table System for Petabyte-Scale LLM Data Curation and Exploration》获VLDB工业赛道最佳论文。其研发的OmniTable系统能管理超35PB、3050亿条以上训练数据，解决数据准备难题，如在SFT任务中大幅缩短周期。
告别「利用率崩溃」：GIPO开启大模型强化学习高效训练新方法 | ICML 2026
树根科技与三一集团团队联合提出 GIPO 算法，在机器人操控及大语言/视觉动作模型强化学习训练中，缓解了策略滞后痛点，改善了 PPO 硬截断引发的‘利用率崩溃’问题。介绍了 GIPO 算法原理、优势及实验结果。
清华推出AI数学家！独立完成数学理论难题，自动调用基本定理、构建证明思路
清华团队推出AI Mathematician（AIM）框架，可将LRMs推理能力延伸至前沿数学研究。它由三大模块驱动，有两大核心策略。实验显示其能解决多个挑战性问题，虽有不足，但未来有望成数学研究核心驱动力。
最新 AGI 暴论：强化学习的「GPT-3 时刻」实现，还需要 1 万年？
国外AI初创公司Mechanize三位创始人联合撰文称，RL或迎“GPT - 3时刻”，但需数千至上万年“模型处理任务所用时间”训练。还提出“复制训练”新范式，能磨炼模型能力，补足短板。
GitHub Issues 大改造：用缓存和预取，让页面打开快了数倍
GitHub 重新设计 GitHub Issues 导航架构，通过客户端缓存、预测性预取等机制，提升导航性能，使即时导航体验比例从 4%增至 22%，解决大型 Web 应用常见的延迟问题。
教育工作者如何使用AI？Anthropic分析了7.4万份对话后，发现了这些
Anthropic分析7.4万份匿名对话，揭示高校教师用Claude的情况。教师用AI场景多样，如课程开发、学术研究等。使用方式分协作增强与完全委托，AI评分有争议，研究也存在局限。
倒反天罡：ChatGPT教人说话？36万视频+77万播客已证实！
最新研究警告，ChatGPT正改变英语表达方式，植入自身偏好。研究人员分析超36万视频和77万播客，发现GPT词汇使用率显著攀升。但研究有局限，且AI沟通还引发信任危机等问题。
字节奖学金首次全球开放，五年67位得主去向追踪
2026 字节跳动奖学金启动，首次开放全球申请，扩大获奖名额、提高奖金。此前五届共支持 67 位青年研究者，研究覆盖 AI 全谱系。获奖者去向多元，研究方向常领先风口，体现字节对源头创新的支持。
机器狗腿被锯了也能继续走！最新机器人大脑来自320亿估值独角兽
Skild AI推出Skild Brain机器人大脑，它在虚拟环境训练相当于一千年时间成型。此模型没在对应机器人训练，控制能力是涌现的，能应对肢体断裂、马达卡住等情况，还可完成精细动作。
AI 性格失控等诡异现象，终于有了科学解释
Anthropic新研究发现控制语言模型「性格特征」的人格向量，解释AI恶意、谄媚等现象。研究开发自动化流程生成向量，通过实验验证其对模型行为的控制，还有监控、防护等功能，不过也引发争议。