「推理性能优化」共找到 4157 篇相关文章
学会“吃一堑长一智"，性能飙升11%！XSKILL让AI积累经验和技能
XSKILL框架让AI像人一样积累经验和技能，将任务级技能与动作级经验统一到双流设计中，通过视觉接地提取和检索知识，在多个基准测试中显著提升性能，还展现出跨模型迁移性。
面向 AI Agents 的高性能数据基座：架构和工程实践
在 QCon 全球软件开发大会上，晨章数据创始人陈亮分享了面向 AI Agents 的高性能数据基座。他指出 AI Agent 驱动的应用带来数据挑战，提出多模态数据基座设计目标，并介绍工程实践，证明传统架构有 CPU 瓶颈。
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。
从deepseek v4的受限流线型超链接mHC谈架构优化
文章围绕DeepSeek v4的受限流线型超链接mHC探讨架构优化。指出过去十年深度学习重扩展层内计算，忽视层间通信。介绍多种层间通信改进方法，提出用检索替代累加，还提及深度注意力机制及混合深度注意力的成果。
规模化人工判断：Dropbox 如何借助大语言模型优化 RAG 系统标注
为提升 Dropbox Dash 生成回复的相关性，工程师采用大语言模型辅助人工标注。该方案解决了纯人工标注的局限，通过人工校准大语言模型标注的方法，为 RAG 系统提供了有价值参考。
博士学位答辩PPT分享 | 基于神经网络的偏微分方程优化求解方法研究
本文聚焦基于神经网络的偏微分方程优化求解方法，指出传统数值求解范式有局限，物理信息神经网络（PINNs）虽有潜力但面临瓶颈。作者从多方面研究，形成工程流动问题分析框架与改进方法。
Kimi 大模型训推混部的稳定性与资源优化实战
月之暗面系统工程师黄维啸在 QCon 大会分享 Kimi 大模型训推混部实践。介绍了训推集群挑战，如故障多、资源利用低等，还阐述了全链路稳定性提升、资源高效利用及强化学习混合部署等方案。
SeePhys Pro：重新审视多模态物理推理中的视觉理解与训练收益
来自中山大学等的研究者提出SeePhys Pro，是面向多模态物理推理的细粒度评测与训练诊断框架。发布了benchmark、训练集等，测评显示当前模型在信息模态转变时不稳定，为模型评测和训练研究提供基础。
欧洲黑马Mistral Medium 3来了！跑分对标最强Claude，实测大翻车
Mistral AI发布多模态模型Mistral Medium 3，官方称其性能接近Claude Sonnet 3.7且成本低，有诸多亮点。但网友实测结果不一，部分大佬认为性能不如官方宣传，建议别下载。
刚刚，OpenAI开源了两个大模型~
OpenAI开源基于GPT - OSS的安全推理模型GPT - OSS - Safeguard - 120B和GPT - OSS - Safeguard - 20B，用于安全用例。有安全推理训练、自带策略等亮点，适配不同显存，采用宽松许可证。