「预训练范式」共找到 2905 篇相关文章
高性能计算群星闪耀时
文章介绍高性能计算（HPC）对大模型的重要性，回顾中国HPC发展历程，讲述清华高性能所郑纬民等学者贡献，还提及团队在大模型训练、推理、存储等方面成果，以及类脑计算等新探索。
ICCV 2025 | SeaS: 工业异常生成+正常合成+精准掩码大一统框架，指标全面碾压SOTA
华中科技大学慢工团队提出少样本工业生成模型SeaS，依托U-Net，只需1 - 3张训练样本，单模型同步实现多样异常生成、正常产品合成及精确异常掩码标注，突破现有方法局限，在主流数据集上超越SOTA。
刚刚，ARC-AGI-3发布！人类100分，最强AI零分
ARC Prize发布ARC - AGI - 3预览版，测试范式从静态谜题到交互式游戏。新引入交互式推理基准测试，人类轻松通关，最强AI却全军覆没。但测试引发社区质疑，奖金设置也遭吐槽，且存在体验和技术问题。
DeepSeek揭秘o1后，小红书似乎破解了o3的技术路线，还开源了~
OpenAI闭源后，大家不知其先进模型技术路线，解密成重要任务。DeepSeek R1年初开源后引发关注，小红书团队核心贡献的论文似破解o3谜题，还开源模型等，为训练调优提供可行路线。
AI无师自通，搞定所有家务！π0.5突破泛化极限，UC伯克利系出品
具身智能最大挑战是泛化能力，美国具身智能公司Physical Intelligence推出π0.5 VLA模型，通过异构任务协同训练实现泛化，可在全新家中执行各种家务，虽有不足但向广泛泛化物理智能迈进。
零Token部署GraphRAG，LinearRAG做到了~
现有GraphRAG模型在实际应用中常不如朴素RAG，原因是自动构建的知识图谱质量不佳。LinearRAG框架通过Tri - Graph架构、两阶段精准检索和零Token范式重构GraphRAG，在多数据集上超越现有方法，代码和数据已开源。
让机器人「不仅会想，还能准确去做」，VLA-R1把「推理+行动」带进真实世界
VLA-R1是“先推理、后执行”的VLA基础模型，结合链式思维监督与强化学习，优化推理和执行。它有两阶段训练、三类可验证奖励等创新点，经多层面测试效果好，在多领域有应用前景。
95后，边改造业务边发AI顶会论文，是怎样的体验？
当下AI人才竞争激烈，企业各出奇招。今年5月京东技术沙龙零售专场，技术团队分享成果。几位95后青年专家讲述成长历程，如洛川解决CTR模型训练瓶颈，谦屹发表多篇顶会论文。京东还推出人才计划吸引人才。
说句话，造个3D世界！腾讯VibeWorlding氛围造世界
香港科技大学（广州）和腾讯团队开源VibeWorlding框架，实现说句话造3D世界。它由VWE - Bench和VibeWorlding - Gym组成，开源模型经强化学习训练后成绩逆袭，证明强化学习解锁3D推理潜力巨大。
GAIR Paper 105｜离线强化学习新突破——ROMI：破解对抗式模型学习「过保守、训不稳」深层困局｜ICLR 2026
本文聚焦基于模型的离线强化学习，指出RAMBO算法存在保守性难控和训练不稳问题。为此提出ROMI方法，引入鲁棒价值感知框架与隐式可微自适应加权机制，在多基准任务上超越基线算法。