「预训练策略」共找到 2842 篇相关文章
Kimi K2基于DeepSeek V3构建
从Hugging Face模型配置文件可知，月之暗面未设计全新模型结构，而是选Deepseek V3作基座模型，用自身高质量数据、独特方法做大量‘微调’和‘后训练’。
Anthropic联创公开劝退套路码农！94%编程将被接管，去学点哲学吧
Anthropic联创Jack Clark在峰会上称大学生应避开「套路化编程」，未来需跨学科综合、分析思考能力。Anthropic雇哲学家训练Claude，工程师工作转向管理AI智能体，AI接管编程趋势明显。
华为开源7B多模态模型，视觉定位和OCR能力出色，你的昇腾端侧“新甜点”来了
华为推出开源多模态模型openPangu-VL-7B，适配昇腾端侧。它推理性能性价比高，在多核心任务表现突出，技术报告还披露核心技术细节，为昇腾使用者带来新选择，丰富昇腾生态。
SRO赋能Qwen-2.5-VL推理性能飙升16.8%
文本领域推理模型成就大，但多模态大型语言模型推理能力扩展遇阻，如冷启动初始化不足等。提出SRO三阶段训练框架，经测试，ReVisual - R1平均性能提升16.8%。
grok 4一图流
文章展示grok 4核心数据，涵盖训练成本、模型定价，还列举其在通用、专业、数学、推理、编程等能力测试中排名第一的成绩，不过实际水平还有待观察。
Sebastian Raschka 新书《从头开始推理》抢先看，揭秘推理模型基础
著名AI技术博主Sebastian Raschka新书《Reasoning From Scratch》第一章介绍LLM中推理含义、训练阶段、模式匹配与逻辑推理区别，还讲述提升推理能力方法及从头构建推理模型的重要性等内容。
ACL'25首届博士论文奖 | 重新思考 LLM 中的数据使用
近日，第一届 ACL 计算语言学博士论文奖获得者是 Sewon Min，其论文《重新思考大型语言模型中的数据使用》围绕大型语言模型如何使用训练所用的庞大文本语料库展开研究。
SRO架构赋予Qwen-2.5-VL推理能力，性能飙升16.8%
文本领域推理模型成就大，但扩展到多模态大语言模型遇阻力，如冷启动初始化不足等。为此提出 SRO 三阶段训练框架，经测试，ReVisual - R1 平均性能提升 16.8 个百分点。
支持5000+ Server，ScaleMCP为大模型Agents动态同步MCP工具
现有工具选择框架未整合MCP服务器，存在重复、不一致和低效问题。普华永道提出ScaleMCP，配备MCP工具检索器，还提出TDWA嵌入策略，通过实验证明其提升了LLM代理性能。
安卓彻底变了！Gemini接管所有屏幕，苹果连影子都没追上
谷歌在 Android Show I/O Edition 宣布，Android 从「操作系统」转型为「智能系统」，Gemini Intelligence 植入安卓设备，覆盖多硬件，还推出 Googlebook。谷歌端侧铺 Gemini，云端投 Claude，与苹果策略形成对照，竞争关键在分发。