「推理训练数据」共找到 5141 篇相关文章
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
30余家单位确认加入，国内首部AI数据标注标准欢迎参与起草！
数据标注对AI产业发展至关重要，但行业存在合规问题。国内首部AI数据标注合规标准《面向人工智能的数据标注合规指南》应运而生，草案稿研讨会已召开，30余家单位已加入，现诚邀相关单位参与起草。
浙大联手字节：开源大规模指令跟随视频编辑数据集OpenVE-3M
浙江大学与字节跳动合作，提出大规模指令跟随视频编辑数据集 OpenVE-3M，有 3M 样本对。还提出数据构造管线、编辑模型 OpenVE-Edit 及评测集 OpenVE-Bench，小参数量下超越现有开源模型。
光轮智能完成 10 亿元融资，全球首个具身数据独角兽诞生
近日光轮智能完成10亿元A++及A+++轮融资，成全球首个具身数据独角兽。其构建具身规模化数据与仿真引擎，在三领域成全球交付冠军，还推动行业基础设施建设。
推理正确率下降65.5%！斯坦福、MIT等用「不等式」拷问AI逻辑极限
大语言模型在数学证明常现推理漏洞，斯坦福等高校团队提出IneqMath基准评估其严谨性。用不等式证明题切入，拆解为子任务，构建评测体系，用LLM - as - Judge审查。结果显示模型推理正确率低，存在结构性缺陷。
还在为AI数据发愁？张文涛和鄂维南院士团队推出Data-centric AI系统
近年来大模型发展由科技公司主导，其数据资源不公开，学术界构建优化数据难。张文涛和鄂维南院士团队推出DataFlow系统，可实现数据治理，有算子和流水线，支持文本模态，多模态版待推出。
150%训练效率提升：感知检测小模型训练优化方法
文章基于业务实践，总结感知检测小模型在不同算力卡上的训练方法，为智能驾驶场景提供借鉴。介绍测试环境、技术架构，分析环境依赖冲突、源代码适配等问题并给出解决方法，还提及性能优化及测试结果。此外还介绍用 RAGFlow 构建私有知识问答应用。
困在产业落地的数据流通，开源会成为“破局点”吗？
AI时代数据成生产要素，但可信流通困于产业落地。8月14日隐语开源社区三周年升级，扩容为‘隐语·数据可信流通技术社区’，覆盖多技术路线。其以开源降低应用门槛，或改写数据产业规则。
NeurIPS 2025 Spotlight | 只需一条演示，DexFlyWheel框架让机器人学会「自我造数据」
北京大学、哈工大联合 PsiBot 灵初智能提出 DexFlyWheel 框架，仅需单条演示就能自动生成多样化灵巧操作数据，缓解数据稀缺问题，已被 NeurIPS 2025 接受。此框架在成本、效率和数据多样性上优势明显。
Andrej Karpathy 盛赞！斯坦福团队新作，让Llama-1B 实现毫秒级推理
斯坦福Hazy Research团队将开源模型Llama - 3.2 - 1B前向推理整合为“Megakernel”，把推理延迟大幅降低，显存带宽利用率显著提升。团队指出当前主流LLM推理系统在小batch、极低延迟场景下低效，提出Megakernel以重构执行方式。