算法论文8

字节AttentionInfluence提升模型推理

量子位2025-05-15

AI 摘要

字节Seed团队：AttentionInfluence方法无需训练标签，用1.3B模型为7B模型选数据。通过比较损失差异评估，在多基准测试提升性能，还能与分类器结合全面提升大模型表现。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

阶跃发布首款Agent手机STEPX Neo

本文作者实测体验阶跃终端推出的首款大模型原生Agent手机STEPX Neo，介绍了产品设计、原生Agent系统能力、创客开发生态与系统级安全方案，公布了产品定价与用户福利。

本文报道Jeff Dean投资的AI初创公司推出DeepRSI新基准，测试大模型递归自我改进能力，设置48小时无网络自主科研挑战，最终Kimi K3拿下国产第一、开源第一，成果引发行业关注。

当前大模型效率优化多聚焦降低单位Token计算存储开销，本文解读arXiv新预印论文，针对传统BPE分词的固有局限，提出CNF-MCE分词框架，可大幅提升Token压缩率，开辟大模型效率优化新路径。

本文爆料Anthropic风控动态，上半年封禁1140万疑似数据蒸馏账号，申诉胜诉率仅10%，大量正常用户被误杀，同时对比了中外大模型的使用体验差距。