「预训练研究」共找到 3736 篇相关文章
小模型用不好Skill？新范式让模型学会Skill的底层逻辑，3B模型推理token省5倍，性能反超
浙江大学联合美团龙猫团队、清华大学推出SKILL0，提出技能内化思路。它在训练中引入关键机制，让小模型把技能内化到参数里。实验显示，其效果出色，token效率高，为小模型成领域专家提供新方向。
港中文薛天帆团队：实现 4K 全景视频生成，普通视频也能「长出空间」丨CVPR 2026
香港中文大学薛天帆团队提出CubeComposer框架，可将普通视角视频扩展成原生4K的360°视频。研究在两个数据集测试，结果显示其在多指标上优于基线。该成果突破技术上限，让普通人也能制作360°视频。
ICLR 2026｜首个微观世界模型MicroVerse来了，AI开始模拟看不见的世界
过去两年，世界模型成为大模型演进重要方向，但现有模型多聚焦宏观世界。本文提出MicroVerse模拟框架，将研究边界拓展到微观尺度，还推出MicroWorldBench评测基准和MicroSim - 10K数据集，推动AI从视觉模拟迈向科学模拟。
像开发软件一样造世界，Agent2World来了，把世界模型做成可运行的符号环境
为让模型真正“能行动”，需可执行、可验证的符号世界模型，但现有自动生成路线有困局。研究团队提出 Agent2World，经实验验证有显著效果，能稳定产出高质量符号世界模型，开辟 AI 理解现实环境新可能。
ChatGPT本来要5天后关掉
翁家翌在播客透露，起初推出ChatGPT是为收集用户数据，预期5天后关闭。他是OpenAI多代大模型发布贡献者，还分享了OpenAI内部情况，如模型训练、迭代速度等问题，也谈及自身经历和对AGI看法。
北大卢宗青团队新作：超 70% 实机成功率，支持语言指令的功能性抓取系统
现有抓取研究多在稳定性层面，而功能性抓取更接近真实世界的智能。北大卢宗青团队提出DemoFunGrasp方法，对功能性抓取重新建模，在仿真与真实场景均超70%成功率，还引入视觉语言模型让机器人理解语言指令。
Meta再推WorldGen，简单一句话，竟「盖」出50×50米一座城
Meta推出WorldGen，可根据文本提示生成可探索的3D世界。它融合多项技术，能生成50×50米完整纹理化场景，保持风格与几何一致。虽处于研究阶段，但成果可兼容主流游戏引擎，有降本增效潜力。
AI越会思考，越容易被骗？「思维链劫持」攻击成功率超过90%
独立研究者Jianli Zhao等人新研究发现，思维链劫持攻击通过在有害请求前填充无害解谜推理序列，能对推理模型实现越狱攻击。在HarmBench基准上，对多模型攻击成功率超90%，揭示思维链推理存在新安全漏洞。
重新思考RLVR中的熵正则：从探索不足到探索过度的破局之路
2024年以来，RLVR使大模型在推理任务有显著突破，但实践中探索机制易失衡。传统熵正则化在LRM场景易走向极端，研究团队提出SIREN方法精准调控探索，实验显示其在多模型和数据集上性能提升显著。
BesiegeField：LLM能否学会设计机器？
香港中文大学推出基于游戏《Besiege》的测试平台BesiegeField，探讨LLM能否学会设计机器。研究通过组合式机器设计视角，测试LLM，提出多智能体迭代设计流程等，发现LLM有挑战但并非不可实现，如Gemini 2.5 Pro表现不错。