「训练推理效率」共找到 4386 篇相关文章
本地LLM万字救场指南来了！全网超全AI实测：4卡狂飙70B大模型
文章围绕本地大语言模型（LLM）展开，针对实用性和经济性问题，用Dell Precision 7960塔式工作站对主流模型测试。涉及不同尺寸模型、推理框架等，给出不同配置下性能指标及使用建议，还模拟真实场景测试。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
南洋理工 | 推出开源版MetaQuery：OpenUni，1.1B参数媲美BLIP3-o-8B
南洋理工大学 S-Lab 和商汤科技团队推出开源版 MetaQuery——OpenUni，仅 1.1B 参数就达 8B 模型性能。它架构极简、参数高效且完全开源，还采用两阶段训练策略，虽有局限但为多模态模型研究助力。
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
不愁了！开源智能体Paper2Poster「一键生成」学术海报
2025年5月，滑铁卢大学等团队发布Paper2Poster系统，用大模型将论文自动生海报。它提出PosterAgent多智能体方法，分解析、规划、绘制优化三阶段，生成效果好且开源，不过也存在效率和创意不足问题。
DeepEval：LLM 应用评测不再玄学，让大模型评测像写单元测试一样简单
在大模型应用开发中，科学、自动化评测 LLM 输出质量是难题，人工评测效率低。DeepEval 是 Confident AI 团队开源的 LLM 评测框架，能用极简代码让评测像写 pytest 一样自然，内置多种评测指标，支持批量评测等。
阿里通义的视觉RAG革命！VRAG-RL：基于强化学习的视觉感知RAG框架，性能飙升30%
阿里巴巴通义实验室推出VRAG - RL，融合视觉感知、多模态推理与强化学习，已在GitHub开源。它破解传统RAG处理视觉数据难题，通过创新机制提升性能，在多数据集表现出色，还将向更拟人化和低幻觉方向发展。
The Batch：820 | Qwen3 向 DeepSeek-R1 发起挑战
阿里巴巴发布八个大型语言模型权重，含两个 MoE 架构和六个稠密模型。预训练数据达 36 万亿 token，支持 119 种语言及方言。测试中 Qwen3 家族表现出色，或终结 DeepSeek - R1 霸主地位，设计用于智能体系统。
对话Memories.ai沈俊潇：用视觉记忆驱动物理AI自进化
DeepTech专访前Meta研究员、Memories.ai创始人沈俊潇，介绍公司聚焦视觉记忆领域，以视觉记忆驱动物理AI自进化，解决物理AI数据标注痛点，已获融资并与高通、英伟达合作，形成清晰的商业数据飞轮。
破除人形崇拜！京东用“狼族”军团重做物理AI
当行业狂热追捧人形机器人时，京东物流针对物流仓储非标环节自动化渗透率低的痛点，推出「狼族」异构机器人集群搭配超脑3.0智能中枢的全链路物理AI方案，已实现规模化落地，兼顾效率与经济性。