搜索：视觉预训练 - AI Reading Hub

「视觉预训练」共找到 2667 篇相关文章

Meta被控盗用成人影片训练AI，遭索赔3.6亿美金，成人影片居然是训练AI的最佳素材？

美国成人影片制作公司Strike 3 Holdings指控Meta自2018年起下载并分享2396部成人影片，约81.7TB，用于训练AI模型，涉嫌严重侵权。Meta未回应，文章还分析了用成人影片训练AI的可能原因。

清华、北通院和宾州州立大学研究人员提出“绝对零”训练法，让大模型通过自我博弈生成并解决任务获推理能力。测试显示，其训练出的模型超专家标注样本训练的模型，且能提升编程与数学推理表现。

RLFactory是开源的端到端RL后训练框架，将环境与RL后训练解耦，有极致易用、高效训练等特点。它让用户专注奖励逻辑和工具配置，还能提升训练效率，用Qwen3和MCP工具可快速训练DeepSearch模型。

清华大学和蚂蚁技术研究院联合团队开源全异步强化学习训练系统 AReaL-boba²，坚持“全面开源、极速训练、深度可定制”理念，实现异步 RL 训练，训练速度最高提升 2.77 倍，支持多轮智能体强化学习训练。

文章总结拓展Andrej Karpathy教学视频，分析大模型聊天流程与原理，介绍LLM训练步骤，包括预训练、后训练和强化学习，还提及主流特性应用，如文件上传、网络搜索，强调带问题学习的重要性。

OpenAI发论文揭示语言模型出现幻觉的根本原因，即训练和评估过程奖励猜测而非承认不确定性。预训练阶段就埋下幻觉种子，后训练阶段‘考试机制’强化幻觉，还给出改评分规则的解法。

DeepSeek发布多模态模型并公布技术报告，提出‘以视觉原语思考’。该模型解决多模态大模型‘指代鸿沟’问题，有把坐标变思维单元、7056倍视觉压缩、精心设计冷启动数据等创新，实验在多任务上超主流模型。

2026年7月ICML大会上，小米MiMo团队负责人罗福莉介绍MiMo - V2.5系列。该系列跳出传统思路，从架构、训练、推理协同设计，实现“聪明、快速、便宜”，如预训练降成本、后训练有硬核算法、推理加速达1000 TPS。

多模态大模型的 Decoder - only 架构处理视觉 Token 有计算冗余。合合信息团队提出无需额外训练的动态计算削减方法，在不影响性能前提下降低推理成本，适用于多场景。

来自多机构研究者提出CoTo渐进式训练策略，解决LoRA训练难题。该策略在训练早期随机失活部分适配器，后期提高激活概率，提升模型融合、剪枝能力，还能增强单任务性能与训练效率，已被ICML 2025接收。