「Token设计」共找到 1909 篇相关文章
DeepSeek-GRPO重要性权重设计错误？详解Qwen3新强化学习算法GSPO
论文指出GRPO在大语言模型训练中不稳定，因其重要性权重设计错误易引入高方差噪声。为此提出GSPO算法，从序列维度计算梯度，解决了MoE模型RL训练的稳定性问题，在Qwen3上效率更高。
内存直降50%，token需求少56%！用视觉方式处理长文本
在NeurIPS 2025论文中，南京理工大学等校研究团队提出VIST框架，为大语言模型长文本高效推理提供视觉解决方案。它模仿人类阅读机制，让模型具备选择性阅读能力，减少Token需求和内存使用。
原来Scaling Law还能被优化？Meta这招省token又提效
2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。
基于文本AI的终结？Agent协作可直接「复制思维」，Token效率暴涨
在 Agentic AI 时代，多智能体系统让 AI 从单打独斗变为团队协作。普林斯顿大学等机构研究者提出多智能体推理框架 LatentMAS，将协作从 token 空间转移到潜在空间，实验显示其性能、效率大幅提升。
Meta把内部设计系统开源了，支撑内部13000+应用，专为Agent调优
Meta开源的Astryx大更新，改造成Agent适配设计系统。它已在Meta内部演进8年，支撑13000+应用，提供150+可访问、可主题化的UI组件及开发工具，让人和AI用同一套语言。
Claude上线Prompt缓存诊断功能，终于不用盲猜token成本暴涨的原因
Claude宣布Prompt缓存诊断功能登陆控制台，可解决缓存失效排查痛点。此前开发者排查效率低，新功能能显示变动位置与token损耗。目前处于beta阶段，介绍了使用方法、支持的失效原因及功能限制等。
《生成式AI卓越架构设计指导原则》：从"能用AI"到"用好AI"
在2025云栖大会上，阿里云发布《生成式AI卓越架构设计指导原则》，以云原生“卓越架构五大支柱”为基础，针对大模型内容合规与安全治理等领域提建议，助力企业从‘能用AI’走向‘用好AI’。
Token纪元：从「马力」到「人天」再到「兆字元时」的认知革命
文章指出，AI时代需全新生产力计量单位“马斯”。字元是AI“语言燃料”，但缺乏统一计量体系。智能社会的容量、速度、价格是关键指标，当前AI算力网络停在2G时代，AI劳动力崛起将重构就业，Token或引发文明跃迁。
Skills驱动推理新范式，清华&北大：Token立省59%，准确率不降反升
当前推理模型虽准确率高，但生成“思考过程”会使推理成本和延迟上升。奇元科技、清华、北大等提出TRS框架，将历史推理轨迹蒸馏成技能卡片，在推理时检索注入，实现更少Token、更高准确率。
全员 token-maxxing，一场没人敢停的军备竞赛｜五源孟醒 AI 观察
2026年3月底，五源资本合伙人孟醒赴硅谷考察，回国后分享一手观察。当前AI迭代极快，硅谷陷入全员token - maxxing军备竞赛，xAI团队雪崩，工程师和研究员焦虑，英伟达掌控算力，估值体系重写，还出现安全危机。