搜索：训练 - 推理不匹配

「训练 - 推理不匹配」共找到 3626 篇相关文章

吴恩达推出LLM 后训练免费课程，覆盖三大调优方法：SFT、DPO、RL

吴恩达发布「Post-training of LLMs」课程，由Banghua Zhu主讲，瞄准实用技术，重点介绍SFT、DPO、RL三种后训练方法，有大量动手实验，课程发布后引发热烈讨论。

OpenAI公布自研推理芯片Jalapeño（墨西哥辣椒）测试结果，它专为大语言模型推理设计，能同时提升吞吐量和降低延迟，在多模型测试中超NVIDIA系统。该芯片与Cerebras合作，计划2026年底部署。

西湖大学冯睿骐、吴泰霖等针对流匹配模型能量引导算法难题，推导新理论框架，提出三大类实用算法，给出性能分析与比较，为流匹配引导采样及生成模型应用提供理论基础。

斯坦福和MIT团队推出新AI智能体推理框架ReCAP，在长上下文任务中全面超越ReAct，性能提升显著。它通过独特结构和三大机制解决大模型常见问题，虽成本增加，但在关键任务表现出色，潜力巨大。

文章深入解析iMeanAI的WebAgent后训练技术，指出当前AI Agent落地存在从‘理解’到‘执行’的困境。通过两个极限任务展示其能力，介绍核心技术架构和后训练进化引擎，还提及该技术带来的自由体验，其1.0版本已公测。

今天凌晨，Together.ai联合Agentica开源AI Agent框架DeepSWE，基于Qwen3 - 32B模型用强化学习训练。所有内容开源，测试中性能超所有开源Agent框架，证明强化学习训练潜力。

腾讯混元AI Infra团队开源生产级高性能LLM推理核心算子库HPC-Ops，基于生产环境痛点开发，降低底层算子开发门槛，实现显著性能突破。在真实场景下，混元、DeepSeek模型推理QPM提升，单算子性能也超越主流算子库。

本文围绕生产级Prompt自动化推理评估A/B实验结果展开，介绍系统背景与痛点，展示主Prompt和决策树，用deepseek - r1等模型推理。通过分析Bad Cases优化Prompt，总结设计原则和迭代方法，还给出通用启示与展望。

普林斯顿和伯克利研究《Machine Bullshit》，定义并量化LLM胡扯行为，总结四大套路，提出胡扯指数。实验发现强化学习人类反馈训练后，AI胡扯倾向加重，多思考也会让其更会忽悠。

今天凌晨OpenAI开源大模型GPT-oss，有1200亿和200亿两种参数，支持商用。它针对AI Agent训练，功能丰富。训练耗时超200万小时，测试表现出色，架构设计也有亮点。