「简单持续预训练」共找到 2900 篇相关文章
MiniMax都在用！5500PB幕后功臣首次亮相，国产黑马祭出杀招
AI浪潮中，数据流不动致GPU算力空转，XSKY星辰天合举办AIMesh产品战略发布会破局。AIMesh含三网，分别解决IO墙、重力墙、内存墙问题，且开放解耦，获多方认可。
跳出「黑盒」，人大刘勇团队最新大语言模型理论与机理综述
大语言模型工程成功但理论研究滞后，被视为「黑盒」。人大刘勇团队用生命周期分类法，将LLM理论研究整合为六阶段，系统综述底层理论与机制，指出前沿挑战，为其向严谨科学转型提供路线图。
Stack Overflow已死？CEO带队狂赚1.15亿刀，6个月原地反杀
近日，‘Stack Overflow已死’话题爆火。但CEO回应，公司年收入破亿实现转型。AI虽拿走‘简单题’，‘难题’却成稀缺资源。公司采取多策略应对，如禁止AI答内容、推AI Assist等。
美国AI一骑绝尘，中国平均落后7个月！Epoch AI新报告出炉
Epoch AI报告指出，中国AI模型进展平均落后美国7个月，最小4个月，最大14个月。这差距本质是「开源vs闭源」差距，中国领先大模型多开源，美国前沿模型均闭源。不过中国AI追赶速度稳定。
李飞飞又被超越了？百万「普通视频」打造通用4D世界模型！
全行业为昂贵多视角数据发愁时，中科院和CreateAI推出NeoVerse，用百万单目视频打开4D世界模型大门。它抛弃多视角数据和离线预处理，解决扩展性瓶颈，在重建速度、生成质量等方面表现出色，有丰富下游应用。
Claude Code 一小时「复刻」谷歌一年成果，那一年能读完五年半的博士吗？
X博主Yuchen Jin感慨读博时若有AI工具，一年就能毕业。谷歌工程师称Claude Code一小时成果抵谷歌一年。网友对AI工具在工作积极认可，但在教育作用上看法不一，争论持续。
港大联合字节跳动提出JoVA: 一种基于联合自注意力的视频-音频联合生成模型
香港大学联合字节跳动提出视频 - 音频联合生成框架 JoVA，支持音视频 Token 跨模态交互，引入嘴部区域特定损失解决口型同步问题。实验显示，它用约 190 万条数据就达先进水平。
后生可畏！何恺明团队新成果发布，共一清华姚班大二在读
何恺明团队继5月提出MeanFlow (MF) 后，近日推出改进版Improved MeanFlow (iMF)，解决了原始MF三大核心问题。它重构预测函数，还实现灵活的无分类器指导和高效的上下文内条件作用架构，提升了实用性和效率。
小米打通智驾和具身大模型，然后开源了
小米汽车陈龙团队开源全球首个跨具身基座模型MiMo - Embodied，基于MiMo - VL架构，采用四阶段训练策略，打破室内操作与户外驾驶领域鸿沟，在29个Benchmark上超现有模型。
单卡跑出集群效率！Hugging Face TRL 与 RapidFire AI 的超并行革命
Hugging Face宣布其核心微调库TRL集成RapidFire AI，重构大模型后训练阶段工作流。RapidFire引入超并行实验引擎，提升实验验证速度，解决算力受限团队的调参难题，带来效能质变。