「训练推理加速」共找到 3975 篇相关文章
天下武功，唯快不破：LLM高效架构最新最全面综述
大型语言模型虽成就辉煌，但训练成本高、推理延迟大，核心问题源于Transformer架构。这篇综述论文首次系统性梳理高效LLM架构创新方案，分类七大类方法，延伸至跨模态应用，为研究者提供‘效率蓝图’。
Jina 第4版：多模态向量检索，统一适配，挑战3大任务
Jina第4版基于Qwen2.5 - VL模型扩展，支持单向量和多向量输出。它经对比学习和任务特化训练，推理时可按需选LoRA适配器，能利用多模态处理能力优化不同任务性能。
Rust版本的DeepSeek-OCR来了，告别python原版的繁琐配置
网友用Rust重写DeepSeek - OCR推理栈，解决原版Python依赖复杂问题。此版本无Python依赖，可离线运行，兼容OpenAI API，还支持苹果芯片Metal加速，介绍了技术实现、使用方法和场景。
Anthropic宣布练出神话级模型：Claude Mythos，代码和黑客能力吊打opus4.6，不向公众开放！
Anthropic宣布Project Glasswing计划，因训练出超强模型Claude Mythos Preview。该模型代码和推理能力超opus 4.6，扫描主流软件发现数千零日漏洞。此模型不向公众开放，计划先在Claude Opus验证安全机制。
从零开始200行python代码实现LLM
文章从传统思路出发，用Python实现极简大语言模型，介绍从零基础到Bigram模型的过程，包括词汇表、模型训练推理等内容，还讲解了PyTorch基础，最后实现pytorch版Bigram模型，后续将实现完整GPT。
R1时代，RAG-Retrieval技术总结与展望~
RAG - Retrieval提供全链路RAG检索模型微调、推理及蒸馏代码，支持多模型、多loss和训练方式。还发布模型技术报告，设计评估框架，未来探索RL在检索领域应用。
快9倍还更清晰？Direct3D-S2一键解锁高效3D生成
在高分辨率三维形状生成中，传统方式有计算与内存瓶颈。南京大学提出Direct3D - S2框架，基于稀疏体积构建，有空间稀疏注意力机制，加速计算，还引入统一格式VAE，生成质量领先，训练成本更低。
14.7M参数，小目标AP达到13.9%！FSDETR用频空融合重新定义目标检测
传统小目标检测问题多，2026年4月FSDETR论文提出频空融合法，用14.7M参数获13.9% APS成绩。它有SHAB、DA - AIFI、FSFPN三个核心模块，还给出训练、推理及导出ONNX部署代码。
告别噪声初始化：NTU MARS Lab提出A2A新范式，实现机器人高性能单步动作生成
新加坡南洋理工大学 MARS Lab 提出 Action-to-Action (A2A) Flow Matching 新范式，以历史机器人轨迹为生成起点，打破生成速度与精度瓶颈，在训练效率、推理速度及泛化表现上佳，还可扩展至视频生成领域。
从文心开源谈起，论大模型发展新生态
6月30日百度宣布开源ERNIE 4.5即文心4.5系列模型，实现预训练权重+推理代码完全开源。文心团队提出创新架构，增强多模态理解能力。今晚7:30，CSDN邀专家深度解读文心开源及行业趋势。