「预训练研究」共找到 3687 篇相关文章
苹果新研究：不微调、不重训，如何让AI提问效率暴增6.5倍？
苹果与牛津、港城大合作提出 BED - LLM 方法，能让 AI 解决问题能力提升 6.5 倍，无需微调重训。它基于序贯贝叶斯实验设计框架，通过三重智慧设计，经测试全面超越基准方法，或开启‘智慧对话’时代。
哈萨比斯出的难题，GPT之父接上了：用一个知识停在1930年的模型
GPT之父Alec Radford等用1931年前数据训练13B模型Talkie，切断现代知识污染。研究者测试其能力，探讨它对未来的“预感”、规避污染问题及数据多样性等，同时训练中也面临时间泄漏、数据质量等难题。
百度Qianfan-VL开源，纯国产自研昆仑芯跑出世界一流
百度开源全新视觉理解模型Qianfan-VL，有3B、8B和70B三个版本，在昆仑芯P800芯片上训练。该模型多模态能力强，OCR和教育场景表现突出，跑分超国际主流模型。芯片功耗低、架构优，模型训练方法创新。
The Batch: 873 | 通过自监督学习实现更好得图像处理
Meta等团队发布DINOv3权重和训练代码，参数规模扩6倍，用更多数据并引入新损失函数。它在图像分割和深度估计表现卓越，解决了自监督训练的视觉transformer的问题，提升全局和局部任务表现。
小红书提出社交大模型RedOne 2.0：兼听、敏行
在SNS内容爆炸式增长的当下，传统SFT训练方法有局限。小红书NLP团队推出RedOne 2.0社交大模型，采用以RL为核心的三阶段渐进式训练方法，实验显示其性能优异，还能转化商业价值。
世界模型和具身大脑最新突破：90%生成数据，VLA性能暴涨300%｜开源
国产世界模型玩家获突破，VLA模型性能涨300%，90%训练数据由世界模型生成。极佳视界开源GigaWorld - 0及训练框架，在多方面优化，经对比性能领先，还验证其生成数据对具身任务的提升作用。
Mini-SGLang，30万行代码浓缩为5000行，大模型推理高性能教学与研究模版
SGLang发布Mini-SGLang，将30万行代码缩至5000行，保留核心特性，为大模型推理提供高性能教学与研究模版，解决教育门槛高和科研原型开发难的痛点，还经测试验证了性能。
Cohere融资36亿，AMD英伟达都投了！前Meta研究副总裁出任首席AI官
AI初创公司Cohere完成5亿美元融资，估值达68亿美元，由Radical Ventures等领投，AMD、英伟达等参投。同时，前Meta AI研究副总裁Joelle Pineau出任其首席AI官，Cohere专注企业AI赛道。
阿里开源Qwen3-Coder-Next，80B参数仅激活3B的MoE顶尖编程助手
阿里开源小型MoE代码模型Qwen3 - Coder - Next，总参数量800亿但仅激活30亿参数，在代码生成等任务表现出色。团队构建训练技术栈解决数据匮乏，模型训练分阶段，多领域专家模型能力整合，基准测试性能强劲。
AI已经开始自己设计算法，并且超越顶尖人类专家，人类还能做什么？
谷歌DeepMind团队与加州大学伯克利分校研究显示，AI能设计出超越人类专家的算法。如在多个领域案例中，AI设计的算法在成本、效率等方面表现出色。ADRS方法将系统研究核心环节自动化，人类研究员角色也将转变。