「一步推理」共找到 2110 篇相关文章
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
NeurIPS 2025 Spotlight | 条件表征学习：一步对齐表征与准则
文章指出传统表征学习处理图片和商品信息时存在局限，针对性有监督训练成本高，多模态大模型使用成本也需考虑。为此提出即插即用的条件表征学习方法 CRL，实验显示其在下游任务表现优异。
真正的AI竞争力，藏在大模型“后训练”这一步
当全球聚焦基座模型参数竞赛时，后训练变革正悄然发生。产业共识是，大模型后训练是AI落地产业必经之路。后训练技术从SFT演进至强化学习范式，企业应用也有了从技术到商业价值的完整链路。
文心新出的推理大模型，给了我们信心
在 WAVE SUMMIT 2025 大会上，百度发布文心大模型 X1.1，是 X1 升级版，发布即上线可免费体验。它在事实性、指令遵循、智能体等能力显著提升，全方位测评表现出色，还开源新模型，展现百度全栈 AI 实力。
无需外部数据！AI自问自答实现推理能力进化
卡内基梅隆大学团队提出SQLM框架，这是无需外部数据的自我提问模型，含提问者和解答者角色。通过强化学习最大化期望奖励，设计自监督奖励函数。实验显示其能提升Qwen2.5 - 3B - Instruct多任务准确率。
DeepMind 发布超真实世界模型 Genie 3，AGI 向前一步
谷歌旗下DeepMind发布通用型世界模型Genie 3，可通过文本提示生成动态世界并实时交互，其生成内容物理一致性达分钟级。它功能丰富，也受业内好评，但有行动空间有限等局限，对迈向AGI意义重大。
构建分层的 Agentic RAG 系统：具备自主纠错的多模态推理
企业 AI 团队面临 RAG 系统在处理结构化与非结构化数据时的难题。本文探讨用分层多智能体编排解决“模态鸿沟”，介绍 Protocol - H 架构，阐述组件、机制、实现与集成，经基准测试验证其优势，还提及未来研究方向。
什么Excel这函数那公式，我千问永远一步搞定
市面上能直接交付Excel表格的AI助手少，千问悄悄升级解决了这一难题。其新上线的表格Agent功能强大，能对话生成、拍照生成、文件转Excel等，且全渠道免费用，降低了AI使用门槛。
谷歌的DeepSeek时刻：LLM推理加速被干到了8倍
谷歌TurboQuant论文介绍量化算法，能为大语言模型和向量搜索引擎大规模压缩。可将大语言模型KV缓存内存减至少6倍、加速达8倍且精度零损失，还介绍其工作原理及实验结果。