搜索：并行推理加速

「并行推理加速」共找到 2697 篇相关文章

提速30倍，Meta重新定义了新一代RAG！

LLM时代，RAG成知识密集型任务标准范式，但处理长上下文时面临延迟高、内存贵问题。Meta超级智能Lab针对RAG特殊结构优化，提出REFRAG框架，有独特训练策略，实验效果显著。

JetBrains报告显示83%的Python开发者用旧版本，这不仅是技术债务问题，还会增加云账单成本。Python新版本有显著性能提升，升级能节省成本，容器化也未加速升级。

Claude封锁中国背景下，国产代码模型加速发力。腾讯CodeBuddy上线，其IDE和CLI有新特性。InfoQ采访团队，探讨定位、技术等思考，国产模型与工具、生态形成“模型—工具—生态”链路。

传统强化学习在创意写作领域举步维艰，蚂蚁技术研究院联合浙江大学开源全新强化学习范式Rubicon，构建10000+条「评分标尺」，拓展应用至主观任务领域，其30B模型用5000样本超越671B的DeepSeek V3。

波士顿动力为Atlas人形机器人训练全新大型行为模型LBMs，它是语言指令驱动的策略模型，能完成复杂操作任务。构建模型有四步骤，实践遵循三大原则，还展示了其多方面操作能力与特点。

阶跃星辰团队探索自回归图像生成新路径，推出 NextStep-1。它直接在连续视觉空间自回归生成，架构简洁，实现端到端训练。模型有高保真生成和编辑能力，Benchmark 表现佳，但也面临稳定性等挑战。

商汤科技联合创始人林达华撰写万字长文，剖析将「多模态通用智能」视为技术战略核心引擎的原因，探索组织及战略层面的思考。文章回顾商汤多模态之路，探讨多模态通向AGI的原因、构建路径等关键问题。

GitHub CEO Thomas Dohmke辞职创业，微软不再任命新CEO，将其完全并入今年1月成立的CoreAI部门。此前GitHub被微软收购后保持相对独立，此次变动标志其独立时代结束。

清华和美团研究聚焦MoE LLM，首次发现超级专家子集。通过多模型实证分析，揭示其分布规律、重要性及对注意力机制的影响，开发识别工具，为模型压缩提供新方向。

谷歌DeepMind推出通用世界模型Genie 3，能以每秒20 - 24帧速度实时生成720p画面，一句话即可生成动态世界，可模拟物理、自然等多种场景，但也存在有限动作空间等局限。