「弹性预训练」共找到 2214 篇相关文章
OpenAI华人AI大牛集体跳槽Meta！清华北大浙大中科大校友各一位，多模态后训练、感知团队负责人全走了
扎克伯格从奥特曼手里挖走4名OpenAI华人顶尖AI人才，包括中科大、浙大、清华、北大校友各一位。OpenAI或提高薪酬留人，人才争夺战成本升高，这也是开源与闭源阵营的交锋。
给非技术人的大模型介绍：从零训练ChatGPT的全流程、天价成本及企业务实替代方案
文章介绍从零训练ChatGPT级别大模型的全流程、高昂成本，指出这对多数企业不现实。建议企业战略从构建转向应用，通过租用API或微调开源模型利用大模型，将专有数据视为核心资产。
清华孙茂松团队 × 深言科技：以解释作为训练信号，让 8B 模型在幻觉检测上反超闭源大模型
大语言模型幻觉问题待解，成本与算力需求攀升。清华孙茂松团队联合深言科技提出FaithLens模型，把幻觉检测提升为整体评估，以解释作为训练信号，8B模型在多任务上超闭源大模型。
刘鹏飞组提出Agent领域的少即是多：智能不在于数据堆砌，78个样本训练出超强Agent，128倍效率提升
刘鹏飞组论文《LIMI: Less is More for Agency》提出颠覆性观点，认为Agent智能培育关键在数据质而非量。LIMI用78个样本在AgencyBench得分超基线模型，实现128倍数据效率提升，为Agent开发提供新路径。
AI生成视频总不符合物理规律？匹兹堡大学团队新作PhyT2V：不重训练模型也能让物理真实度狂飙2.3倍！
匹兹堡大学团队提出 PhyT2V 框架，论文已被 CVPR 2025 接收。该框架不依赖重训练或大量外部数据，通过链式推理与迭代修正机制，增强主流 T2V 模型物理场景泛化与生成能力，应用前景广。
本周六直播预约 | Test-Time Reasoning综述分享！
当大模型训练成本飙升、数据枯竭，推理阶段扩展Test-Time Scaling（TTS）成研究热点。论文提出四维正交分析框架，梳理主流技术路线，提炼发展路径，给出操作指南与未来思考，本周六将直播分享该综述。
谢赛宁等推出统一多模态模型！替代VAE实现图像理解/生成双SOTA，代码权重数据集全开源
谢赛宁等团队推出统一多模态模型Blip3 - o，用扩散Transformer生成CLIP图像特征，采用顺序预训练策略。对比多种设计方案，确定CLIP + Flow Matching最佳，模型在多任务测试表现卓越且全开源。
ERNIE 5.0：走向原生统一的万亿参数多模态基础模型
过去多模态模型‘拼接式’方案存在理解与生成割裂问题，ERNIE 5.0 借此提出，用统一自回归框架做多模态理解与生成，在架构、训练与系统层面有创新，评测中各模态能力表现出色。
60000小时炼出新开源VLA！20多种机器人都能用
蚂蚁灵波发布开源VLA模型LingBot-VLA 2.0，用60000小时预训练数据“喂”出。它支持20多种机器人构型，融合LingBot-Depth提升空间理解，还学会预测未来，在GM - 100评测表现佳。
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。