搜索：训练推理效率

「训练推理效率」共找到 4338 篇相关文章

去掉像素中介！上海交大让AI边看边想边画，用同一个“大脑”跨模态推理

上海交大等团队提出LatentUM架构，摒弃像素解码中介，在共享语义潜空间跨模态思考。它用MBAQ技术转化视觉特征，设计MoME架构，还能自我反思、规划路线、模拟世界演变，表现出色。

Hugging Face宣布其核心微调库TRL集成RapidFire AI，重构大模型后训练阶段工作流。RapidFire引入超并行实验引擎，提升实验验证速度，解决算力受限团队的调参难题，带来效能质变。

人大高瓴研究团队提出DelTA算法，不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架，在多任务上提升base模型效果，还能让训练更稳定。

在 InfoQ 举办的 QCon 全球软件开发大会上，小红书梁啟成分享云成本优化实践。介绍了小红书用云情况，分析成本优化面临的问题，阐述成本洞察和优化的探索，如内外账分离、CPU 和 GPU 资源提效等，还展望了 AI for FinOps 实践。

在「大模型+机器人」浪潮中，让机器人既听懂话又走得对、稳很难。北大MobileVLA - R1将链式思考引入四足机器人，在仿真和真实实验中对标强基线实现提升，构建了更具工程可用性的范式。

南洋理工大学团队在ACL 2026发表VChain框架，引入大模型视觉推理能力提升视频逻辑连贯性。它分三步实现，实验效果超现有方法，还展示视频推理与生成的潜在趋势，为多模态模型协作提供范例。

谷歌给Gemma 4家族更新Multi - Token Prediction推测解码架构，推理速度最高提升3倍且输出质量不变。介绍了LLM推理慢的原因、MTP解决办法、对开发者的利好、技术细节、使用方式等。

EfficientLLM项目聚焦LLM效率，提出三轴分类法和六大指标，实验覆盖多方面。研究表明效率优化需权衡，最优策略因任务和模型规模而异，且相关技术可迁移到跨模态模型，成果将开源。

上海人工智能实验室等机构提出Avengers框架，无需额外训练，通过四步集结小模型优势。实验表明，其在15个数据集上平均得分超GPT - 4.1，还探究了框架有效的要素，对AI研究和开源社区意义重大。

京东发布JoyAI - LLM Flash模型，激活参数小、推理快。它采用混合专家架构等技术，在基础架构、数据加工、强化学习等方面表现出色，还通过多Token预测等技术加速推理，为商业场景落地扫清障碍。