搜索：推理性能优化

「推理性能优化」共找到 4211 篇相关文章

科普向：一文解构大模型后训练，GRPO和它的继任者们的前世今生

文章深入解读大模型后训练，先对比 PPO 与 GRPO，指出 GRPO 优势及成本问题。又介绍 GRPO 后续改进算法，如 DAPO 解决训练问题、GSPO 提升训练稳定性、GFPO 可优化多属性，还提及 GRPO 其他缺陷。

2025年8月29日，清华崔鹏教授团队联合稳准智能开源“极数”（Limi X）结构化数据通用大模型。它融合结构因果推断与预训练技术，适配多任务，性能超最优专用模型，已落地多个工业场景。

小某书被AI手办图刷屏，原来是谷歌的nano - banana（Gemini 2.5 Flash Image）模型爆火。文章实测其手办玩法，还介绍多种玩法，团队透露以文本渲染评估、原生多模态等核心技术，谷歌未来想整合模态实现AGI，还将举办黑客松。

Physical Intelligence 核心技术团队解读机器人技术路径，分享前沿探索。介绍 VLA 与 VLM、LLM 关系，还提及 PI 构建数据管线、提出“知识绝缘”机制，分析开放世界部署难题，展望未来“机器人模型即服务”。

文章详细介绍GPU工作原理，对比其与CPU差异。指出GPU擅并行计算、能解决复杂问题，还分析FLOPS、延迟、内存等因素对性能的影响，最后讲了GPU通过多线程和超量订阅获高吞吐量。

腾讯混元3D世界生成模型HunyuanWorld 1.0发布即开源，可在消费级显卡运行，还能兼容传统CG管线。它分层实现3D生成，通过量化等技术降低显存开销，与同类模型相比优势明显。

强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。

星海图在2025WRC展示G0模型，可让机器人自主完成铺床任务。其发布端到端双系统全身智能VLA模型G0，结合真机数据集与架构，还构建开放数据集，评测结果优于π0模型，即将开源。

文章介绍开源项目One API，它是LLM API管理与分发系统，能统一管理主流AI模型，用一个接口搞定调用。有友好界面和可视化操作，在Github获26.5K star，还介绍其性能特色、安装使用方法。

GPT-5发布，它是统一系统，含多种模型。性能上减少事实幻觉、应对谄媚有进展，跑分强且节能，但无新功能特性。写作不如GPT 4.5，编程表现出色，发布后OpenAI与Google预测交叉跳水。