「大模型预训练」共找到 9479 篇相关文章
Thinking Machine新研究刷屏！结合RL+微调优势，小模型训练更具性价比了
Thinking Machine新研究提出On - Policy Distillation方法，结合RL与微调优势。该方法让学生模型每步由教师模型指导，用KL散度评估分歧。实验表明其训练小模型性价比高，还能解决AI“灾难性遗忘”问题。
单次训练横扫9个基准，遥感检测最大数据集与基础模型框架问世
北京航空航天大学团队发布面向通用遥感目标检测的大规模数据集与基础模型框架 LEVIRDet，构建了 LEVIRDet - 159 数据集，提出 LEVIRDetNet 模型。前者为训练泛化能力强的模型提供新数据基础，后者在多基准测试中表现出色。
不只是DeepSeek V4，还有个万亿级大模型，训推全程国产芯片
2026年4月24日，DeepSeek发布新一代模型DeepSeek - V4系列预览版并开源。同日，美团用全国产算力集群训练出万亿参数大模型LongCat - 2.0系列预览版，训推全流程摆脱英伟达，在国产算力支撑万亿级模型研发上取得突破。
Runway深夜炸场：一口气发布5大更新，首个通用世界模型来了
主攻AI视频与多媒体生成技术的独角兽Runway发布5大更新，包括旗舰视频生成模型Gen - 4.5、首个通用世界模型GWM - 1等，展示了其在通用世界模型上的野心，刷新了视频生成指标。
SSM+扩散模型，竟造出一种全新的「视频世界模型」
在AI热词不断涌现的时代，斯坦福大学等机构研究将长上下文、状态空间模型、扩散模型等结合，创造全新「视频世界模型」。它用状态空间模型实现长期记忆，还设置局部注意力机制，训练和推理表现出色。
DeepMind大佬最新暴论：单体大模型穷途末路，未来买的不是模型，是"智能路由"
DeepMind研究员Andrew Trask认为，因Scaling Law对资源需求攀升，AI将成协议而非程序。组合不同厂商模型有优势，当主流榜单同等评分时变革加速，之后人们将买“智能本身”。
Cursor“自研”模型套壳国产开源？网友：毕竟好用又便宜
美国顶流AI产品Cursor和Windsurf发布新模型，被指“套壳”中国开源大模型。Cursor新模型干活时说中文，Windsurf或用智谱GLM。中国开源模型物美价廉，在榜单和下载量上表现出色。
Unsloth让大模型跑在手机上！
Unsloth放出教程，可将其微调模型部署到Pixel 8和iPhone 15 Pro。用ExecuTorch技术优化，Qwen2 - 0.5B在旗舰机上表现流畅。教程介绍量化感知训练控制精度损失，还给出iOS和Android部署步骤及注意事项。
OpenAI去年挖的坑填上了！奖励模型首现Scaling Law，1.8B给70B巨兽上了一课
全新奖励模型「POLAR」采用对比学习范式，摆脱对海量人工标注依赖，有强大Scaling潜力。它衡量训练与目标策略「距离」作奖励信号，用自动化合成数据预训练，小模型能超越大数十倍规模对手。
Nature重磅！清华团队揭秘大模型新规律：告别参数内卷，智能密度每3.5个月翻一番
清华和面壁智能团队研究揭示大语言模型进化的致密律，指出为获同等智能，模型参数量呈指数级下降，最大能力密度约每3.5个月翻一番，还探讨模型压缩、边缘智能等内容。