「大模型预训练」共找到 9479 篇相关文章
500万次围观，1X把「世界模型」真正用在了机器人NEO身上
1X公司为机器人NEO引入1X World Model，使其学会‘想象’。该模型借助视频预训练，不依赖大规模机器人数据和遥操作演示，能泛化到新场景。实验显示其在多任务上表现不错，但精细操作有挑战。
专为小说、角色扮演等而生：元象开源泛娱乐场景底座模型
元象作为AI与3D技术服务公司，此次开源XVERSE-Ent系列中英双语大模型。它采用MoE热启动技术与三阶段训练策略，解决泛娱乐场景痛点，适配多元语境，有高部署性价比，为行业提供泛娱乐AI解决方案。
Node.js之父宣判“手写代码时代结束”！DHH明确反对“结束论”：大模型还差口气，手写更有竞争力
Node.js之父Ryan Dahl宣称人类写代码时代结束，而Ruby on Rails作者DHH反对，认为大模型还差口气，手写代码仍有竞争力。DHH分享AI使用体验，指出距AI带来明显优势的拐点还差一点，还探讨互联网和产品发布等问题。
无损减少80%激活值内存，提升5倍训练序列长度，仅需两行代码
港中文（深圳）和上海交通大学团队提出 StreamBP 算法，通过线性分解和分步计算，将大语言模型训练激活值内存降至梯度检查点的 20%，在相同内存下最大序列长度为其 2.8 - 5.5 倍，代码已开源。
YOLO12改进引入DINOv3少样本目标检测精度飙升，分享训练自定义数据集代码
Meta 人工智能研究院的 DINOv3 是基于自监督学习的视觉大模型，解决诸多问题且无需微调，在多任务表现出色。将其引入 YOLO12 后，在不同规模数据集上检测性能显著提升，还分享训练自定义数据集代码。
LeCun出手，造出视频世界模型，挑战英伟达COSMOS
训练有效世界模型面临数据、任务难度、算力消耗和评估等难题。Meta研究者提出通用视频世界模型DINO - world，可预测未来帧，在多方面有优势，实验显示其性能显著，能降低对标注数据需求。
“养团队造语言”时代终结？Rust传奇人物用Claude造出新开源编程语言，AI写下万行代码：大模型上限很高，我学会了高效用它！
Rust核心贡献者Steve Klabnik借助Claude写了新语言Rue并开源。他曾是AI怀疑论者，现认为大模型在编程中‘真的有用’。Rue目标是不依赖垃圾回收提供内存安全，使用体验更顺手，开发深度依赖Claude。
别再卷数据了，LLM也怕「过劳死」！CMU等揭秘灾难性过度训练
CMU、斯坦福等四大名校研究团队挑战“预训练规模越大越好”观点，提出“灾难性过度训练”现象，即增加预训练数据可能导致后训练性能下降，并从现实证据、控制实验、理论分析等方面阐述新研究贡献，还介绍了相关实验及结论。
推出 AnyLanguageModel：在 Apple 平台统一本地与远程大语言模型的 API
大语言模型是构建现代软件的重要工具，但 Apple 平台开发者集成模型困难。Hugging Face 发布 AnyLanguageModel，是 Swift 包，可替代 Apple Foundation Models 框架，支持多模型服务商，降低使用 LLM 难度。
MiniMax M2 发布即爆，拿下开源模型第一名
10月27日，MiniMax发布新一代文本大模型M2及由其驱动的MiniMax Agent。M2是专家混合模型，参数达230B但激活仅10B。它在开源模型评测中夺冠，能低成本、高速度支撑工作流，开发者评价高。