「token分配」共找到 744 篇相关文章
a16z 提出 AI 产品的「水晶鞋效应」：第一批用户反而是最忠诚的
OpenRouter 报告基于 300 多个模型、100 万亿个 token 交互数据，分析 LLM 应用情况。提出「灰姑娘水晶鞋效应」，即 AI 模型首批用户留存率更高，与传统 SaaS 玩法相悖，还通过案例分析其表现及对 AI 创业的影响。
下一代目标检测模型：3B参数MLLM Rex-Omni首度超越Grounding DINO，统一10+视觉任务
IDEA研究院团队用3B参数的Rex - Omni打破MLLM目标定位精度僵局。它统一视觉任务，结合坐标编码与强化学习，在多项检测基准超Grounding DINO等，解决定位和行为缺陷，为MLLM成下一代检测模型提供方案。
SimpleTIR：让大模型“边写代码边思考”不再崩溃
SimpleTIR可解决多轮工具调用中训练崩溃问题。作者指出崩溃原因是分布偏移、低概率token链式雪崩和梯度爆炸。它采用void turn过滤，掐断崩溃链路，训练稳定，还催生多样推理行为，且工程友好已开源。
ICML 2025杰出论文出炉：8篇获奖，南大研究者榜上有名
本周一，ICML 2025公布最佳论文奖项，共8篇获奖，含6篇杰出论文奖、2篇杰出立场论文奖，南京大学研究者上榜。大会投稿量持续增长，展示AI领域火热。文中介绍了各获奖论文的研究内容与成果。
R2没来，却等来综合性能更优的DeepSeek R1T2
抱抱脸热门排行榜出现R1变体模型DeepSeek-TNG-R1T2，构建于多个父模型之上，在智能与输出token长度间达新平衡点，速度快且测试表现佳，还给出与不同模型对比的选择建议。
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，探讨大模型端侧部署难题。团队自研推理框架，实现180 tokens/s推理速度，采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。
Gödel Rescheduler：适用于云原生系统的全局最优重调度框架
本文介绍字节跳动研发的Gödel Rescheduler重调度框架，它能解决传统调度资源分配和任务摆放问题。阐述传统重调度弊端，介绍新方案组件，列举应用场景及成果，还提及未来规划，目前已开源。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
20%的美国打工人把活儿甩给AI！被替代的是任务，不是岗位
8月6日，Epoch AI联合Ipsos发布职场调查报告，20%美国就业者将工作甩给AI，表明活儿在人和AI间重新分配。AI参与广但不深入，用时情况不一，输出多需修改，先冲击外包工作，且使用不均衡。
刚刚，翁荔博客上新：谨慎对待Scaling Law
翁荔新作《谨慎对待 Scaling Law》上线，文章涵盖 Scaling Law 预测内容、计算最优分配原理等。介绍了早期对机器学习损失可预测性的研究，还对比了 Kaplan 等人与 Chinchilla 的 Scaling Law，分析了两者分歧原因。