「预训练数据精炼」共找到 3917 篇相关文章
最新研究揭示视觉模型与人脑的对齐机制
FAIR与巴黎高等师范学院通过训练自监督视觉Transformer模型（DINOv3），评估脑 - 模型相似性。发现模型大小、训练数据量和图像类型影响相似度，DINOv3学到的表征会逐步与人脑一致。
企业级OpenClaw最强拍档来了！万亿参数的国产多模态大模型，刚刚开源发布
YuanLab.ai团队开源源Yuan3.0 Ultra多模态基础大模型，是万亿级开源多模态大模型之一。它优化训练效率，在多任务表现突出，为企业Agent AI提供支撑，还提出新算法和训练策略，全面开源推动落地。
OpenAI谈：大模型为什么会有幻觉？如何避免？
OpenAI论文探讨大模型幻觉问题，指出评测缺陷，像多数AI模型评测非对即错，模型为得分会瞎猜。还从预训练和后训练阶段剖析根源，提议改造评测，引入置信度阈值和错误惩罚机制。
500美元刷新SOTA！训练成本砍到1/200，华人团队重构视频生成范式
香港城市大学等团队发布图像 - 视频生成模型Pusa V1.0，在基础大模型上引入VTA机制，用3860对视频 - 文字数据、约500美元微调，在I2V超越Wan - I2V - 14B实现SOTA，还解锁零样本任务能力。
数据科学新风口？三大环节搞定ML「资产」管理，VLDB'25最新教程抢先看！
大模型时代，ML资产爆炸式增长，但大多缺乏规范管理。凯斯西储大学等研究团队将在VLDB 2025提出教程，从整理、发现、利用三大环节给出ML资产管理方法论与系统路径，还会展示前沿平台解决实际问题。
百度Qianfan-VL开源，纯国产自研昆仑芯跑出世界一流
百度开源全新视觉理解模型Qianfan-VL，有3B、8B和70B三个版本，在昆仑芯P800芯片上训练。该模型多模态能力强，OCR和教育场景表现突出，跑分超国际主流模型。芯片功耗低、架构优，模型训练方法创新。
具身智能中的 VLA 技术及其应用
文章围绕具身智能中 VLA 技术展开，介绍其现状、挑战、架构、数据方案及部署等内容。指出 VLA 虽推动具身智能发展，但面临数据、模型结构等挑战，还探讨了不同架构优劣及未来探索方向。
小红书提出社交大模型RedOne 2.0：兼听、敏行
在SNS内容爆炸式增长的当下，传统SFT训练方法有局限。小红书NLP团队推出RedOne 2.0社交大模型，采用以RL为核心的三阶段渐进式训练方法，实验显示其性能优异，还能转化商业价值。
一篇400+文献最新RAG技术系统性综述
本文对RAG技术进行系统性综述，通过筛选5大数据库、128篇高被引文献、343个数据集，给出技术地图、评估框架与未来路线，梳理技术全景、评估指标，还介绍主流数据集，指出RAG已演变为复杂系统。
从0到1拆解FreeWheel ChatBI：大模型如何重塑视频广告智能数据分析新生态
本文结合 FreeWheel 实际应用经验，分享构建 ChatBI 系统核心实践。介绍其核心功能、技术实践，如让 LLM 理解业务、智能选表等，还提及系统架构、算法服务，最后总结上线效果并展望未来优化方向。