「推理优化与部署」共找到 3538 篇相关文章
科普向：一文解构大模型后训练，GRPO和它的继任者们的前世今生
文章深入解读大模型后训练，先对比 PPO 与 GRPO，指出 GRPO 优势及成本问题。又介绍 GRPO 后续改进算法，如 DAPO 解决训练问题、GSPO 提升训练稳定性、GFPO 可优化多属性，还提及 GRPO 其他缺陷。
DiT在数学和形式上是错的？谢赛宁回应：不要在脑子里做科学
X上有博主称DiT存在架构缺陷，其FID过早稳定，可能无法继续从数据中学习。还批判了DiT的设计，如使用后层归一化和adaLN - zero。DiT作者谢赛宁回应，强调做研究要基于实验，也指出DiT现存一些问题。
混元3D世界模型1.0 lite版本发布，消费级显卡就能跑
腾讯混元3D世界生成模型HunyuanWorld 1.0发布即开源，可在消费级显卡运行，还能兼容传统CG管线。它分层实现3D生成，通过量化等技术降低显存开销，与同类模型相比优势明显。
Kafka 如何实现零停机迁移
随着企业将 Kafka 迁移至云原生架构需求增加，AutoMQ 成云端优选。但传统 Kafka 迁移方案难满足高可用需求，AutoMQ 推出 Kafka Linking 创新方案，支持双向写入与消费位点同步，实现零停机迁移。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
用 Ollama 本地运行 OpenAI gpt-oss 官方完整教程
OpenAI出教程教用Ollama本地部署gpt-oss-20b或gpt-oss-120b，可实现离线对话、API调用等。介绍模型版本、硬件要求、安装设置，还提及对话、API使用、工具调用、与Agents SDK集成等内容。
训练时间减半，性能不降反升！腾讯混元开源图像生成高效强化方案MixGRPO
混元基础模型团队提出全新框架MixGRPO，结合SDE和ODE，简化MDP优化流程，提升效率与性能。还推出更快变体MixGRPO - Flash。MixGRPO训练时间降近50%，MixGRPO - Flash再降71%，效果和效率优于DanceGRPO。
突发！Qwen更新模型，全面超越kimi k2，强的离谱，主打Agent
Qwen小更新非推理模型性能强劲，各项指标超kimi k2，与Claude opus 4持平，Agent能力亮眼。Qwen团队告别混合思维模式，新模型上线，独立训练两模型，新版本多方面提升，团队称还有大招。
一年破千万美金，一款海外AI创意引擎爆发了
一款名为Creati的AI创意引擎发布仅1年，就有千万用户规模，实现千万美金年收入。它另辟蹊径专注创意定制和优化，创始人Ella Zhang认为创意是广告的核心，还在秘密开发创意Agent。
国内首个免费提供的深度研究，反而有市面上最好的体验
秘塔深度研究（https://metaso.cn/）上线，是首个将深度研究作免费基础功能的产品。它在算法、交互等多方面优化，降低成本、保障准确，还创新交互形式，搜索结果清晰有条理，体验佳。