「VAE-LLM数据增强」共找到 3283 篇相关文章
号称1200万token上下文的模型来了，数据亮眼但疑点重重
当地时间5月5日，Subquadratic公司推出模型SubQ，称是LLM智能重大突破，有1200万token上下文。数据亮眼，如在1M token场景比FlashAttention快52倍等，但也引发质疑，有人推测是对开源模型微调，官方未公布详细模型卡。
谷歌DeepMind「粪坑淘金」全新方法，暗网毒数据也能训出善良模型
谷歌DeepMind研究团队发表论文提出生成式数据精炼（GDR）方法，不直接生成新数据，而是用大模型净化原始数据，保留有用信息。该方法能解决数据枯竭、隐私等问题，实验显示效果良好。
LLM-based Reranker效果到底如何？一项关于SoTA模型的全面分析
在信息爆炸时代，重排序是信息检索系统核心。论文对22种重排序方法实证研究，构建无污染数据集FutureQueryEval。结果显示LLM重排序器泛化能力被高估，轻量级模型有优势，为研究和应用提供指南。
一招缓解LLM偏科！调整训练集组成，“秘方”在此 | 上交大&上海AI Lab等
上海交大和上海AI Lab联合团队提出IDEAL方法，可提升LLM综合性能。研究发现SFT阶段数据数量非关键，配比不当会加剧模型“偏科”。以Llama3.1 8B测试，IDEAL能提升代码能力，还指导了超参数选取。
阿里安全AGI一次发布3款LLM，8B多维度领先GPT-5.4
近期，阿里安全AGI实验室发布3款Yuvion LLM，在AI安全与内容安全领域多维度领先。它以‘对抗即智能’为原则，构建五类数据体系，采用三阶段训练范式，通过YLRE四级评测体系验证能力。
怎么量化机器人数据价值？ATHENA将影响函数扩展到十亿参数VLA，313×加速筛选高价值数据
具身智能进入数据scaling时代，VLA模型训练中数据并非越多越好。上海交大同济等校团队提出ATHENA框架，将影响函数扩展到十亿参数VLA模型，解决计算和筛选难题，实现313倍加速，实验证明其用更少数据获更好效果。
“坏”数据让模型更“好”？重新审视数据过滤
传统观点认为大型语言模型预训练应过滤“坏数据”，但论文《When Bad Data Leads to Good Models》提出反直觉观点，适度加入有毒数据，通过后训练技术可降低模型毒性，保持一般能力，挑战常规做法。
基于大模型（LLM）的自选股智能分析系统，让AI帮你盯盘，每天自动推送分析报告
daily_stock_analysis是基于LLM的自选股智能分析系统，免费零成本运行，获6.3万Star。它多市场覆盖、聚合多源数据，自动生成决策报告并推送。有零成本运行等五大亮点，还给出上手步骤、适合人群。
关于机器人数据，强化学习大佬Sergey Levine刚刚写了篇好文章
训练大模型难度随规模和应用拓展而增加，所需数据海量。机器人领域获取训练数据成本高，研究者尝试找替代方案。强化学习大牛Sergey Levine分析数据组合，认为鱼和熊掌不可兼得，替代数据有局限。
全球看中国，灵初智能用10万小时人类数据写下具身智能的中国答案
2026年，“世界模型”成具身智能高频词。灵初智能联合创始人陈源培认为其非核心方向，而是数据迁移工具。灵初关注人类操作数据转化，在10万小时量级上可大幅替代真机数据，还介绍了系统模块、数据集及商业化阶段等情况。