搜索：集群性能优化

「集群性能优化」共找到 2934 篇相关文章

炸裂提速30倍！Meta提出REFRAF，无需改动模型，让RAG告别冗余与等待

近年来，RAG任务在提升模型回答质量的同时带来性能代价，Meta等团队合作提出REFRAG框架。它将无关段落压缩，引入强化学习选关键段落，实现高达30.85倍的TTFT加速，且无需改模型结构，实用性强。

文章介绍快手多模态大模型 Keye-VL 1.5，参数 8B 适合中小企业。它侧重短视频场景，视频理解能力强，能与业务结合，提升推荐等场景效率。还详述其架构、预训练、后训练及训练架构优化等技术细节。

字节UXO团队设计并开源统一框架USO，解决图像生成多指标一致性问题。它能统一看似孤立任务，实现单任务和组合任务的SOTA，弥补了主体保持和风格迁移短板，性能领先，还采用新范式及算法。

本文围绕“什么是好代码”展开，作者结合自身职业发展，从初入职场的“黑盒认知”到深入思考多维度评价标准。还介绍代码评审标准，从稳定、体验、效率、成本衡量。最后给出写好代码的方法和面临的挑战。

OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 开源模型，性能出色，如 120b 版本媲美 o4-mini，20b 版本能在笔记本甚至手机运行。采用 Apache 2.0 许可证，有多种特性与运行方式，还经安全分析。

大型推理模型进展依赖带可验证奖励的强化学习（RLVR），但它能否扩展模型推理能力存疑。本文通过理论证明与实验，揭示RLVR存在“隐形束缚”，只能在基座模型初始能力内优化，难以发现新解。

172天后，Kimi推出全新Kimi K2基础大模型回应DeepSeek冲击。它为MoE架构，1T参数，激活参数32B，在多任务上领先，发布即开源，还分享技术细节，实测有亮点也待优化，展现回归之势。

InfoQ《极客有约》X AICon 直播邀请同程、网易、百度工程师探讨大模型入研发体系的变化。指出其在提效、协作、分工上作用大，还分析了适用场景、工程师收益类型及核心竞争力等，也提及效率评估、代码生成等问题。

在模型性能趋同背景下，知识库、工具成AI应用差异壁垒。MCP规范Agent与工具交互，但在实际生产中有挑战。ACI.dev项目维护者Aipotheosis Labs探索简化Agent与外部工具集成等过程，对企业级应用有示范意义。

开源君介绍超火的开源项目`chatgpt-on-wechat`（CoW），它结合大模型与社交、办公平台，可定制优化。能接入多平台，支持多模型，处理多模态消息，有丰富插件，还能记忆会话、定制知识库。给出安装步骤。