「小数据」共找到 3317 篇相关文章
数据邪修大法好：仅用文本数据就能预训练多模态大模型
多模态大模型研发中，行业认为无图文对就无多模态能力。但ReVision研究表明，预训练阶段昂贵配对关系非必需，利用非配对数据统计信息修正文本表征，能实现跨模态互换，降低成本。
无法蒸馏的美国市场，谁在分食 Frontier Labs 百亿美金预算？
本文围绕美国数据市场展开，分析了数据赛道的投资判断、公司增长难题、需求结构、最新趋势等。指出数据虽重要，但外部数据公司份额难线性外推；真实世界数据成新热点，各细分领域格局和投资方向不同。
GraphQA：用自然语言对话分析图数据
图数据常见但分析门槛高，需懂算法和代码。NetworkX 算法多却复杂，普通用户难上手。GraphQA 搭建桥梁，用自然语言接口替代复杂 API，智能选算法，继承 NetworkX 优势还解决易用性问题。
The Batch: 869 | 编码助手的训练数据
研究人员开发自动生成编码助手训练数据的流程。斯坦福等高校及阿里团队提出 SWE - smith 方法，从 128 个 Python 仓库入手合成漏洞、验证并生成修复样本，成果免费开放，有望改进 AI 辅助编程模型。
社区供稿丨以小博大！Nanbeige4-3B重磅开源：硬刚Qwen3，挑战小模型能力新高度
近年来大语言模型发展陷入‘参数军备竞赛’，成本高昂。Boss直聘南北阁实验室发布Nanbeige4 - 3B，仅30亿参数，在预训练和后训练阶段采用多种创新技术，在多方面媲美甚至超越大模型。
偷数据的AI公司被抓到了
Reddit发现AI公司利用Wayback Machine开放性，绕过限制扒取大量历史数据用于模型训练。此前Reddit已对AI公司数据抓取设限，还起诉过违规公司。Reddit抵制该行为，宣布限制Wayback Machine索引其内容。
Qwen-Scope：看穿大模型的“小心思”
Qwen-Scope是基于Qwen3和Qwen3.5系列模型训练的可解释性模块，通过在隐藏层插入SAE提取可解释特征。它能分析模型行为、优化模型，应用于推理、数据、训练、评估等场景，可前往Huggingface或魔搭体验。
突发！Jason wei也被小扎挖走了
Jason wei是OpenAI研究科学家，是思维链、强化学习研究重要推动者，2023年2月加入OpenAI，此前在谷歌大脑工作。他和HYUNG Won Chung一同被小扎挖走，二人是o系列模型及测试时间计算重要推动者。
从数据分布视角，重新认识下CoT
本文从数据分布视角重新审视大语言模型的思维链（CoT）推理。指出CoT并非真正推理，而是模仿，其效果受训练与测试分布差异影响。通过实验揭示CoT在分布偏移时性能退化，提醒勿过度依赖。
The Batch: 879 | 谷歌必须与 AI 竞争对手共享数据
一家联邦法院裁定，谷歌须将当前搜索索引交给美国本土AI及搜索引擎对手，以打破其在网页搜索的垄断，但未采纳拆分公司请求。谷歌按条件共享数据，在其他业务仍可竞争。