「压缩推理」共找到 2207 篇相关文章
炸裂提速30倍！Meta提出REFRAF，无需改动模型，让RAG告别冗余与等待
近年来，RAG任务在提升模型回答质量的同时带来性能代价，Meta等团队合作提出REFRAG框架。它将无关段落压缩，引入强化学习选关键段落，实现高达30.85倍的TTFT加速，且无需改模型结构，实用性强。
新范式来了！新能量模型打破Transformer++扩展上限，训练扩展率快35%
研究训练新能量模型 EBT，为输入和预测分配能量值，模拟思考过程。它有跨模态、跨任务通用性，训练扩展率比 Transformer++ 高 35%，推理性能提升 29%，还在多任务中表现出色，是扩展模型能力新范式。
GPT-5正以o3的三倍速度打宝可梦，现已抵达冠军之路，直播进行中
GPT - 5直播独立运行宝可梦红版，速度比o3快近三倍，6105步抵达冠军之路，而o3需16882步。原因是其幻觉少、空间推理和规划能力强。直播已进行9小时，超2000人关注，OpenAI总裁点赞。
不是视频模型“学习”慢，而是LLM走捷径｜18万引大牛Sergey Levine
UC伯克利大学副教授Sergey Levine提出，为何语言模型从预测下一词中学到很多，视频模型从预测下一帧却学得少。他指出LLM可“抄近路”模仿人类推理，像在“柏拉图洞穴”中，还探讨了AI走出困境的方法。
阿里+清华发现80/20法则：LLM只靠20%的token就能学会Reasoning
阿里与清华研究发现，训练大语言模型（LLM）推理时，真正关键的是20%的高熵token，其余80%低熵token几乎无用。仅用20%高熵token做强化学习，效果超全量训练，还提出RLVR训练策略提升效率。
AI遭遇灵魂拷问！这道题所有模型集体翻车，网友：我也不会啊
图像推理现新难题，在Reddit引发热议，目前无AI能真正解决。国内外支持图像输入的大模型答案不同，原因是对大立方体规格理解不同。结合提示多次尝试，部分大模型能找准方向，人类面对该问题也会困惑。
ICML 2026 | 华为GTS提出AI训练数据新方法，Amazon/Google作者团队「光速跟进」：难度自适应训练正在成为新范式
华为GTS研发部AI数据团队提出EDCO方法，将样本难度估计与动态课程编排引入领域大模型微调。该方法用推理熵动态编排训练课程，让模型面对最有学习价值的样本，已被ICML 2026接收。
字节跳动Seed推出「机器人大脑」Robix：让机器人学会思考、规划与灵活互动
近日，字节跳动Seed团队发布「机器人大脑」Robix，它将推理、任务规划与人机交互整合到单个端到端多模态模型。通过层次化架构分工，它能灵活互动，经三阶段训练，在多方面表现出色，为具身智能体发展奠基。
用“因果规划”解决多智能体协作中的任务依赖难题｜港科广&腾讯
港科广和腾讯研究团队提出CausalMACE方法，将因果推理机制引入开放世界多智能体系统。该方法含全局因果任务图，框架分“判断”“规划”“执行”环节，在基准任务中表现出色，已中稿EMNLP 2025 Findings。
极致优化Android平台APK的大小
文章以Android为例，介绍UE包可裁剪部分的优化思路与实践，优化APK大小和Native库运行时内存占用。从压缩NativeLibs、代码体积优化、资源裁剪等方面着手，还给出优化效果和额外资料。