搜索：训练推理失配

「训练推理失配」共找到 3608 篇相关文章

AI玩具和AI眼镜爆火，端侧市场或将超越云端？

当下AI难形成商业闭环，端侧AI或为落地答案。芯原股份戴伟民看好端侧AI市场，认为未来端侧推理需求或超云端训练，还指出AI眼镜、玩具、智能汽车等增量市场，同时介绍了芯原布局。

近年来，基于可验证奖励的强化学习（RLVR）在提升大型语言模型（LLM）推理能力上有关键作用，但存在熵崩溃问题。论文提出SVS创新策略，让模型自我合成变分问题形成自我提升循环，实验效果惊人。

上个月开源的多模态模型 MiniCPM-V 4.5 广受好评，今日其技术报告出炉。报告从架构、数据和训练三方面探索高效路径，提出三大技术，使模型在多任务上突破，小参数规模下性能和推理速度佳。

蚂蚁集团与上海交大合作的 GALLa 研究被 ACL 2025 主会录用。它利用图神经网络将代码图结构信息注入大模型，在 7 个模型和 5 个任务上提升性能，推理与普通 LLM 一致，不增成本。

BOSS直聘楠北阁团队发布3B轻量端侧小模型Nanbeige4.1-3B，性能震惊海外开发者。团队从多方面改进，如优化推理和偏好对齐，重构训练数据，采用多种强化学习算法，使其性能比肩大模型。

信通院大模型推理能力评估中，文心X1 Turbo获最高级“4+级”。百度AI Day上，副总裁吴甜解析文心4.5 Turbo和文心X1 Turbo，从多模态、深度思考等方面介绍技术，还展示其在多场景应用成果。

Vercel推出新AI模型v0系列，采用复合模型架构，将RAG专业知识、SOTA大模型推理能力和定制流式后处理模型结合，能提升代码生成质量，且基础模型升级时可快速替换，还训练了定制AutoFix模型。

最近，3B小模型VibeThinker - 3B在X上火了，它在编程等推理任务上比肩前沿大模型，体积却小很多。它是国产模型，来自新浪微博团队，在各项基准测试表现出色，不过在通用知识领域表现欠佳。

DeepSeek V3.1发布，是中国AI技术自主性的战略突围。它有6850亿参数，采用UE8M0 FP8适配国产芯片，具混合推理架构、Agent能力等。其发布或重塑AI产业格局，推动国产芯片发展。

2025年5月9日，雷峰网等举办“具身智能之VLA的实践与突破”线上圆桌沙龙。多位专家探讨VLA定义、起源、技术路线等，指出其面临推理、数据等瓶颈，还讨论了与强化学习结合、数据选择、提升泛化性、长程任务及落地场景等问题。