「高效推理」共找到 2490 篇相关文章
拒绝Reward Hacking！港科联合快手可灵提出高效强化学习后训练扩散模型新范式
使用强化学习微调扩散模型时，常面临Reward Hacking和KL正则化阻碍探索收敛的问题。港科等团队提出GARDO框架，通过门控自适应正则化和多样性感知优化，解决痛点且全面开源。
别被室内基准高分骗了：大模型是在推理空间，还是在「背答案」？
2025年，空间智能成大模型竞争新热点，模型在室内基准上分数飙升。但因训练与测试数据同源，其提升或只是“背答案”。中科院大学等机构发布OSI - Bench重新审视大模型空间能力，评测显示当前提升可能是虚假繁荣。
全图与切片并非等价？LLaVA-UHD-v3揭示差异推出高效全图建模方案
随着多模态大模型发展，处理高分辨率图像成关键。主流视觉编码范式难兼顾性能与效率，清华和中科院团队发布 LLaVA-UHD v3，提出 PVC 框架，对比 SBE 和 GNE，验证其在提升效率同时保留模型能力。
扩展外部测试时Scaling Law，中关村学院新发现：轻量级验证器可解锁LLM推理最优选择
文章聚焦大语言模型‘测试时扩展’，指出内部方法接近瓶颈，外部方法的传统实现有缺陷。提出 TrajSelector 策略，用轻量级打分模型复用隐状态打分，训练无需手动标注，实验显示性能增长稳定。
刚刚，GPT-5内测抢先泄露！推理强到离谱，智商被曝140超越人类天才
周五凌晨，GPT-5、GPT-5 Mini和GPT-5 Nano将推出，全网可通过API和ChatGPT访问。GPT-5基准测试结果疯传，实测表现出色。同时，OpenAI发布开放权重模型GPT-oss，登顶开源王座，外媒分析其豪赌开源原因。
合成数据>人工数据，绝对性能暴涨超10个点！仅需任务定义，高效微调大模型
为解决基础模型在专业领域表现不佳、依赖人工标注数据的难题，北大、MIT等机构提出「合成数据强化学习」框架。该框架仅需任务定义，能生成合成数据微调模型，在多领域基准上性能提升显著，代码已开源。
揭秘千卡 GPU 集群如何高效训练多模态大模型：vivo AI 团队实战经验分享｜AICon
在 InfoQ 举办的 AICon 大会上，vivo AI 架构师王兆雄分享多模态大模型训练经验。介绍了 LLaVA 和 DiT 模型训练挑战，从数据处理、模型计算等方面提出优化策略，还展望 AI Infra 未来发展方向。
图像分词器造反了！华为 Selftok：自回归内核完美统一扩散模型，触发像素自主推理
华为盘古多模态生成团队推出 Selftok 技术，通过反向扩散将自回归先验融入视觉 token。它突破传统，实现因果 token、强化学习友好型 token 及纯 AR 大一统架构，实验在多方面表现优异，论文还入选 CVPR 2025 最佳候选。
北大联合阶跃星辰提出TensorCast：统一可编程管理大模型张量，推理「首字延迟」最高降低93.2%
随着模型规模增长、新应用兴起，大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast，解耦张量状态，复用管理能力，在多场景测试中表现出色，为大模型基建提供新范式。
突破一亿Token极限：EverMind提出MSA架构，实现大模型高效端到端长时记忆
机器之心发布文章介绍，大模型长期记忆能力受限于上下文长度。《MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens》提出MSA架构，突破扩展性、精度和效率的不可能三角，实现100M长度的大模型长时记忆框架。