「LLM训练」共找到 2871 篇相关文章
TruthfulRAG，用知识图谱硬刚RAG知识冲突
RAG系统存在知识冲突问题，现有解决方法治标不治本。TruthfulRAG将非结构化文本转化为结构化事实，通过图构建、图检索、冲突解决三大模块解决冲突，实验显示其表现优异，结构化表示还提升了LLM置信度。
英伟达新架构引爆全模态大模型革命，9B模型开源下载即破万
英伟达推出全模态大模型OmniVinci并开源，其90亿参数规模性能超同级别甚至更高级别模型，训练数据效率是对手6倍，能精准解析视频和音频，在多模态应用场景中表现卓越，下载量破万。
Qwen拿半成品刷下AIME'25满分，给别人留点面子吧……
开源之王Qwen的Qwen3“超大杯”推理版虽为早期预览版，仍在训练中，但已在AIME 25和HMMT25达100%准确率，超GPT - 5系列。该预览版可在Qwen Chat免费试用，API已上线阿里云。
Rex-Omni：用 3B 模型颠覆目标检测
长期目标检测依赖传统坐标回归模型，MLLMs方法存在不足。IDEA研究院提出30亿参数的Rex - Omni多模态大模型，在零样本测试中表现超现有回归模型，还具备丰富语言理解能力，有独特设计和训练流程。
16岁创业，22岁做成百亿独角兽！3位高中同学帮大厂训AI年入1亿美金
Meta豪掷143亿收购Scale AI，其CEO加盟Meta。这一并购让Mercor创始人Brendan Foody看到机会，认为Scale AI失去中立性，大厂或不再合作。Mercor为AI实验室提供训练人员，年入1亿美金，估值达百亿。
腾讯混元 TurboS 技术报告首次全公开：560B 参数混合 Mamba 架构，自适应长短链融合
日前腾讯混元 TurboS 技术报告全公开。它是超大型 Hybrid Transformer - Mamba 架构 MoE 模型，有自适应长短思维链机制，总参 560B。在多榜单成绩亮眼，多语种和多任务处理能力强，还介绍了核心创新、训练策略等。
ICML Desk Reject 引发热议，AI审稿究竟该如何科学检测
ICML 2026 部分论文被 desk reject，因 reviewer 用 LLM 写 review。ICML 用带诱导的隐式水印检测，引发支持与反对争议。有论文提出从文本检测转向判断检测，还开发 J - Detector，结合文本检测准确率达 99.3%。
线性注意力回归！Kimi新模型引爆，MiniMax却悄悄换回传统架构
LLM领域线性注意力机制正在回归，工程实践主要由国产模型推进。早期线性注意力因牺牲精度未获主流认可，今年下半年多个国产模型采用其变体，MiniMax却又换回传统架构，Kimi新模型带来新解法。
超越谷歌Banana，字节联合香港中文大学等高校开源最强图像编辑生成系统DreamOmni2
香港多高校与字节跳动联合研发的DreamOmni2系统，实现图像编辑与生成领域SOTA。它用三步造出高质量数据，提出索引编码等方案，联合训练模型，实际效果超越部分商业模型，为AI创作带来新可能。
The Batch: 884 | Transformer获得新能量
弗吉尼亚大学等机构的研究人员提出 Energy-Based Transformer（EBT），它能检查自身输出。训练时通过能量值优化预测概率向量，测试显示其泛化优但生成特定文本差，扩展性好，为高性能带来新可能。