「预训练策略」共找到 2839 篇相关文章
LeCun点赞：国产开源模型占领硅谷，性价比超10倍
硅谷被中国开源模型占领，Cursor、Cognition等公司模型被曝套壳或基于中国开源模型后训练。巨头如Meta也用Qwen做训练，爱彼迎等青睐Qwen。因性价比高，中国开源模型在硅谷走红。
训练提速5倍，响应缩短50%：动态自感知能力，重塑高效LLM Reasoning范式
大型语言模型“思维链”技术有冗余，传统优化方案存在静态先验与动态能力错配问题。论文提出的DR.SAF框架赋予模型动态自感知能力，通过三模块协作，实现推理“精准瘦身”，解决根本冲突。
开启RL Scaling新纪元，siiRL开源：完全分布式强化学习框架，支持超千卡规模高效训练
传统强化学习框架在模型和集群规模达上千块GPU时，存在扩展性瓶颈和效率低下问题。上海创智学院团队推出siiRL，采用全分布式架构和多控制器范式，解决传统框架痛点，在多方面验证了其高性能。
Grok最新模型吃上Cursor「加餐」，马斯克：Coding实现巨大改进
马斯克在X上透露，xAI的Grok基础模型V9 - Medium（1.5T）完成训练，预计2 - 3周后发布，训练加入大量Cursor数据。同时，xAI的AI编程代理工具Grok Build进入早期Beta测试阶段。
马斯克开始疯狂剧透Grok 5了
ARC - AGI榜单官宣新SOTA，用Grok 4+程序合成技术微调，超越一众明星模型。马斯克剧透Grok 5，称其能达AGI，将几周内开始训练。投入大量训练数据和硬件资源，但成品效果仍待观察。
AI能自己打红警了！经济拉满零交战惨遭打脸，玩家笑疯
Hugging Face推出OpenRA-RL，将《红色警戒》改造成大模型的Agent训练场，50个MCP游戏工具全量暴露，25Hz实时状态流推送，打通三条训练路线，原生接入OpenEnv生态。实战中，Agent经济满分但战斗零分。
Alibaba力作:Ovis-U1 融合理解、生成与编辑，解锁无限可能
OpenAI 2025 年推出的 GPT - 4o 结合图像与语言能力，但引发视觉解码器设计及统一模型训练问题。Alibaba 力作 Ovis - U1 单一模型能完成理解、生成与编辑任务，介绍了其架构、训练过程和应用。
X上63万人围观的Traning-Free GRPO：把GRPO搬进上下文空间学习
年初 DeepSeek - R1带火大模型强化学习，GRPO成常见RL算法，但训练成本高。腾讯优图论文提出Training - Free GRPO，将GRPO训练范式迁移到上下文学习，成本低、泛化好，已开源。
8 个月做到 1 亿美元 ARR，Lovable 增长负责人：免费用户不是成本，是营销渠道
Lovable增长负责人Elena Verna分享产品增长经验，指出增长团队核心是解决分发问题，PLG概念被过度炒作，传统增长策略失效，应把免费产品当营销预算，还给出未来增长的8个关键策略。
链式思维是幻象吗？从数据分布视角重新审视大模型推理，马斯克回复，Grok破防
亚利桑那州立大学研究发现，思维链（CoT）推理可能只是对训练数据分布内模式的复现，输入与训练数据分布有差异时，推理链条会失效。研究探究了CoT泛化性等问题，对实际应用提出警示。