「推理加速技术」共找到 4950 篇相关文章
从BERT到T5再到Qwen3：关于Embedding的八点总结
哈工大30+页综述聚焦通用文本嵌入（GPTE），系统介绍其架构、数据、模型，探讨预训练语言模型（PLM）给GPTE带来的基础能力与高级扩展，还涉及多模态、多语言、代码嵌入等应用。
Make SFT Great Again！从SFT到DFT：一权重之差，泛化之跃
大型语言模型的监督微调（SFT）简单高效，但泛化能力弱于强化学习（RL）。本文直击 SFT 核心缺陷，揭示其泛化瓶颈源于隐含的“病态奖励结构”，并提出仅需单行代码修改的动态微调（DFT），实验表明其效果显著。
DeepSeek V4 借实习生获奖论文“起飞”？梁文峰剑指上下文：处理速度提 10 倍、要“完美”准确率
ACL公布2025年获奖论文，中国作者比例超51%。DeepSeek梁文锋通讯、实习生袁境阳一作的论文获Best Paper奖。其提出NSA机制，实验显示性能优、准确率高、速度提升显著，成果或用于DeepSeek V4。
“AI大神”李沐终于开源新模型，爆肝6个月，上线迅速斩获3.6k stars！
7月23日，“AI大神”李沐开源音频基础模型Higgs Audio v2，构建于Llama - 3.2 - 3B之上，预训练数据丰富。该模型在多个测评中成绩领先，有多种能力，李沐介绍其技术及训练方法。
揭秘白宫「AI甄嬛传」！奥特曼篡位马斯克，美国迎来AI「新教皇」
从‘冷板凳’到‘白宫座上宾’，奥特曼用不到一年完成华丽转身，替下马斯克掌控美国AI舵盘。他与特朗普从立场相左到同台亮相，OpenAI调整策略迎合特朗普，其政策目标也逐步落实。
世界首个「实时、无限」扩散视频生成模型，Karpathy投资站台
Decart发布世界首个「实时、无限」扩散视频模型MirageLSD，输入视频流能快速转化画面，前特斯拉AI总监Karpathy投资。它在时长和延迟上有突破，也有需改进之处。
大模型竞赛转向：决胜关键为何是“后训练”？｜甲子光年
大模型价值主战场向后训练转移，Grok 4凭后训练成“宇宙最强”。产业应用中通用模型适配难，后训练方法也在进化，如采用SFT+RL等，还介绍了夸克和阿里云的后训练实践。
如何将LLM的"思考习惯"迁移到视觉领域？
传统多模态模型处理复杂视觉推理能力不足，OVR团队以Qwen2.5 - VL - 7B为基础构建开源强化学习框架，成果模型OVR在12个基准测试刷新记录，揭示认知行为跨模态迁移三条黄金定律。
揭示隐藏联系：RLHF/DPO即对比学习！
大型语言模型输出符合人类价值观是挑战，主流技术RLHF复杂、昂贵且不稳定，DPO简化流程但有训练崩溃问题。论文揭示RLHF/DPO即对比学习，提出MIO算法解决DPO崩溃，实验验证其性能优势。
看懂毫米波雷达，这一篇就够啦！
文章介绍毫米波雷达，它是频率30GHz - 300GHz的电磁波，兼具微波与远红外波特点，有高数据传输速率、高分辨率等优势，也有绕射能力差等弱点，在多领域应用前景广，移远通信等企业正布局。