「多LLM系统」共找到 5928 篇相关文章
单机H200最快DeepSeek V3和R1推理系统优化秘籍
作者从开源技术分享角度，盘点SGLang对单机规模推理的大量工程优化技巧，涉及FP8 Block GEMM演进、FusedMoE模块优化、Attention Backend优化等，助于提升DeepSeek V3/R1在单机H200上的推理性能。
LLM后训练太烧钱？清华&腾讯有了破解法门：关键是得会Rollout
大模型强化学习后训练中，rollout预算易成瓶颈，且并非所有rollout都有用。清华和腾讯研究者提出TRACE框架，将Agent轨迹视为树，分配预算给易产生“成功/失败对比”的节点，实验显示其效果良好。
腾讯混元最新开源：一套RL框架打通多个模态，庞天宇团队新作
大语言模型的RL技术已成熟，但多模态生成模型的强化学习训练仍“各自为战”，制约AIGC模型能力上限。腾讯混元庞天宇团队开源UniRL框架，打通多模态RL后训练，覆盖多种模型，内置算法与奖励组件。
国民技术：覆盖机器人多模块，提供MCU+安全+蓝牙全栈芯片解决方案
国民技术是MCU及安全芯片领先企业，其N32H7/4系列MCU为荣耀“元气仔”、越疆Rover X1等机器人提供关键支撑，还广泛应用于工业机器人。此外，公司构建了MCU + 安全 + 无线射频的完整产品矩阵。
具身智能体操作系统PhyAgentOS，赋能全球Physical AI 技术挑战赛冠军
2026年4月27日，中山大学HCP实验室研发的PhyAgentOS开源框架，助力11岁开发者Arjun获全球Physical AI技术挑战赛冠军。该框架降低开发门槛，打通执行闭环，加速具身智能落地。
YC总裁开源个人AI记忆系统GBrain：让你的OpenClaw/Hermes长脑子
YC总裁Garry Tan开源GBrain，这是经实战检验的AI记忆中枢。它有真实数据规模、混合搜索架构等特点，核心工作流含实体检测等。技术选型有考量，还提供体验方式和技能包文档。
工业级 LLM 数据工程：北京大学 DCAI 团队 DataFlow 框架的架构设计与实践
2026 年大模型研发从‘模型中心’向‘数据中心’演进，数据语义密度与工程精度成突破关键。北京大学 DCAI 团队推出 DataFlow 框架，解决数据准备难题，其技术报告登顶 Hugging Face。该框架有多种特性，实验验证其能提升模型性能。
腾讯混元团队最新研究：让 AI 从「固定模型」走向「实时适配系统」
腾讯混元团队提出论文《HY-WU (Part I)》，尝试让模型在推理阶段根据输入实时动态生成适合任务的参数，而非依赖固定参数。通过多类实验验证，这种方式在图像编辑等任务中有明显优势，还降低了训练复杂度。
罕见！Meta、OpenAI、xAI联合分享了用生产环境提升LLM的最佳实践！
Meta、OpenAI、xAI联合发表成果CharacterFlywheel，聚焦在生产环境提升社交型AI对话能力。团队基于LLaMA 3.1迭代15个版本，7/8的A/B测试显示正向提升，介绍了架构、数据管道、奖励模型等内容。
中学生就能看懂：从零开始理解LLM内部原理【十三】｜GPT 架构如何工作 ？
本文是对GPT架构工作原理的解读。介绍了GPT与Transformer的关系，阐述其从输入文本到预测下一词概率的流水线，详述训练和推理流程，还提及GPT架构进化的混合专家（MoE）模型。