搜索：训练数据生成

「训练数据生成」共找到 5550 篇相关文章

OpenAI解释LLM为什么会有幻觉

OpenAI和佐治亚理工联合论文《Why Language Models Hallucinate》深入探讨LLM幻觉根源，指出预训练阶段统计本质和评估体系激励扭曲是主因，还提出改革评估体系引入显式置信度目标的解决方案。

文本嵌入和重排序是NLP和信息检索关键组件。Qwen3 Embedding、Qwen3 Rerank模型基于Qwen3基础模型构建，有三种参数尺寸。文章介绍其架构、训练方案，还给出实战代码。

Mamba作者之一Albert Gu参与的论文提出分层网络H - Net，用动态分块取代tokenization。Tokenization虽能压缩序列但有缺点，H - Net在多方面表现出色，或预示无需Tokenizer训练时代到来。

文章指出大语言模型虽耀眼，但企业级解决方案需坚实数字底座。在 Agentic AI 时代，数据范式、基础设施哲学都要重塑，智能体模式崛起带来挑战与机遇，技术决策者要做好底座构建。

360人工智能研究院发布 FG - CLIP 模型，攻克图文细粒度对齐难题，成果被 ICML 2025 接收并开源。它采用双阶段训练等策略，在多任务评测中超越对比模型，推动跨模态研究产业化落地。

近期，DeepSeek发布DSpark，阶跃星辰发表JetSpec论文，二者聚焦大模型推理效率。DSpark关注验证效率，JetSpec从Draft生成本身入手。结果显示，二者都有加速效果，共同表明推理效率正成Agent落地关键变量。

中山大学等机构推出SpatialDreamer，模拟人类空间认知过程，构建闭环推理流程，还提出GeoPO解决奖励稀疏问题，构建SpatialDreamer - SFT数据集。实验显示其在多基准达SOTA，为AI空间智能发展开辟新路径。

近日，Fluxions - AI团队在GitHub开源轻量级语音模型Vui，可设备端运行。它能精准模拟语气词、笑声等，有三款模型，适用于语音助手、播客生成等场景，解决了传统模型的痛点。

SWE - Bench创建者推出新benchmark ProgramBench，测试AI从零构建软件系统能力。结果一线模型完成率0%，暴露AI擅长局部代码生成，缺全局系统规划能力，引发对其评估方式的讨论。

OpenAI研究科学家陈博远介绍GPT Image 2官网博客花絮，分享模型训练、测试情况，还展示亲手制作的官网图片，包括中文彩蛋、漫画、杂志页等，体现模型文字渲染、视觉推理等能力。