「预训练策略」共找到 2847 篇相关文章
LeCun亲自出镜打脸质疑者！憋了20年的AI世界模型，终于爆发了
LeCun亲自出镜介绍V-JEPA 2新进展，目标是开发改变AI与物理世界交互的世界模型。V-JEPA 2基于视频训练，有两阶段训练细节，能用于机器人规划，Meta还发布三个基准测试，后续将研究分层和多模态JEPA模型。
数据合成篇｜多轮ToolUse数据合成打造更可靠的AI导购助手
文章以租赁导购助理“小不懂”为例，介绍Tool Use训练数据合成方案。先分析训练数据的目标与难点，提出动态多智能体对话生成框架，阐述多轮数据、复杂问题合成及过滤方案，展示数据和模型效果，还提及未来工作方向。
挑战 1 比特！ETH Zürich 秦浩桐：如何把大模型「塞进」小设备？| IJCAI 2026
IJCAI 2026大会上，秦浩桐给出创新解法，挑战无需重训的“后训练量化”极限，将庞大的LLM强行压缩至极端的1比特与2比特。其团队的BiLLM与SqueezeLLM打破了后训练量化魔咒，还指出极低比特量化的三大挑战。
苹果提出原生多模态Scaling Law！早融合+MoE，性能飙升秘密武器
如今打造强大多模态模型是AI重要目标，常用方法有局限。法国索邦大学、苹果研究人员开展原生多模态Scaling Laws研究，对比早融合与后融合，探讨多种因素对模型性能影响，发现早融合、多模态MoE优势，为后续研究指明方向。
苹果提出新型反向传播：一台iPhone 15 Pro Max就能微调LLM
苹果提出内存高效型反向传播（MeBP），可在内存使用量和计算时间上比零阶优化（ZO）有更好权衡，收敛更快、性能更优，还在iPhone 15 Pro Max验证其有效性，且公开了实现链接但目前为空。
刚刚！AI 圈顶流 Karpathy 三连击：开源、泼冷水、AI 教育~
10月，AI圈顶流Andrej Karpathy有三连动作：开源nanochat项目，100美元可复刻ChatGPT；发表AGI十年论，给行业泼冷水；推进Eureka教育项目，重构AI教育范式。
陶哲轩DeepMind梦幻联动，最强通用科学Agent来了！一口气解决芯片设计、矩阵乘法和300年几何难题
谷歌DeepMind与陶哲轩等打造的AlphaEvolve是LLM驱动的进化编码Agent。它能优化计算生态、调度数据中心等，还解决了数学难题，已在谷歌内部使用，现开启早期邀测试用。
好你个智谱，模型价格搞双标：中国一套外国一套
网友发现智谱Max计划国内外价格差异大，中国469元（约68美元），西方160美元，引发热议。Hugging Face产品负责人力挺GLM - 5.1，而Claude被曝性能下滑、成本增加。
关于中美 AI 竞争的差距，我可能真的说错了
作者因读者反馈，意识到自己对中美AI竞争差距理解不全面。基模能力中国整体落后美国，但部分领域领先。模型能力提升难被多数用户感知，且中美在商业模式、模型开源等方面差异大。
泛化性暴涨47%！首个意图检测奖励范式，AI工具爆炸时代意图识别新解法
随着大模型和工具增长，AI 助手意图识别遇新挑战。腾讯 PCG 团队用强化学习等方法，提升模型泛化能力，还从多方面剖析优势，最后提出未来研究方向。