算法论文8

LC - R1：让大模型推理精准“瘦身”

深度学习自然语言处理2025-06-25

AI 摘要

论文指出当前大模型推理冗长，存在‘无效思考’，浪费大量计算资源。提出解决原则和LC - R1方法，经测试，该方法能砍半推理长度，精度仅降约2%，揭示精准思考才是关键。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

ACL两篇技能论文杀疯了

本文整理六大2026顶会共460篇高引机器学习论文，详细介绍ACL下两篇聚焦技能拆解复用的高引论文，给出效果数据与论文链接，开放论文合集获取。

本文报道由vLLM原班人马创立的Inferact公司，联合谷歌优化后，16块谷歌TPU v7跑Kimi K3速度比同数量英伟达GB200快57%，相关代码已开源，详解了背后的技术优化思路。

当前大模型算力需求攀升，高端GPU供给紧成本高，大量PCIe长尾GPU算力因框架适配不足被禁锢。是石科技自研Meta-Infer推理引擎，通过纯软件优化挖掘硬件潜力，让DeepSeek推理吞吐提升近7倍，方法也适配国产GPU。

本文是腾讯15年资深后台工程师吴银光的转型自述，分享了他从零切入大模型推理工程的抉择过程，给出了清晰的入门路径与自检方法，分析了AI Infra与传统Infra的异同，为有意转型AI的技术人提供了实用参考。