「Token向量化」共找到 1430 篇相关文章
紫东太初推出GMC核心集剪枝方法，少80%Token仍满血保真多模态能力
视觉Token冗余是多模态模型高效推理与落地的瓶颈，传统筛选方法有缺陷。紫东太初团队提出GMC核心集剪枝方法，具双阶段架构，优势多，实验显示其能在减少Token同时保持性能。
省token神器3天狂揽4.1k星！19岁小哥开发，信息无损最高省87%
一款名为caveman的省Token神器在GitHub蹿红，3天揽4.1K星。它由19岁外国小哥开发，能让Agent表达更简洁，信息无损最高省87%。不过也存在争议，如节省的多为输出Token，强迫简洁或让模型变笨。
DeepSeek-V3.2被找出bug了：疯狂消耗token，答案还可能出错，研究人员：GRPO老问题没解决
DeepSeek-V3.2虽强且火爆，但被发现存在bug，即浪费token问题。研究者指出这源于GRPO算法的‘隐藏偏见’，虽修正了‘难度偏见’，但‘长度偏见’仍在，官方也承认token效率是挑战。
xAI 新模型 Grok 4 Fast 卷疯了！少用 40% token 还能追平 Grok 4，限定范围可直接免费用
近日，马斯克旗下 xAI 推出新 AI 模型 Grok 4 Fast，将非推理与推理能力整合，少用 40% token 追平 Grok 4，运行成本降 98%。它有 200 万 token 窗口，多平台可用，部分范围免费。
别再给AI送钱：10款开源工具省80%Claude Code Token，大项目直接砍49倍
使用Claude Code等AI编码工具常遇额度用完、账单超预期问题，80%钱浪费在冗余输出等。社区博主整理10款开源工具，适配主流AI编码工具，最高能将大项目Token消耗砍到1/49，还介绍省Token习惯及互助项目。
Discrete Tokenization：多模态大模型的关键基石，首个系统化综述发布
近年来，人们关注将LLM能力扩展至非文本模态，Discrete Tokenization成关键方案。但现有研究缺系统总结，香港科技大学等团队发布首个相关系统化综述，梳理技术脉络、方法及挑战，给出未来研究方向。
解决算力瓶颈，给多模态瘦身！Token压缩完整图谱与选型指南
给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余，提升训练与推理效率。北大等团队剖析其全貌，给出完整图谱与选型指南，还揭示了未来演进路径。
“你以为买的是 DeepSeek Flash，到手可能是 1.5 bit 缩水版”：Pi 核心贡献者谈 AI Token 黑箱
Pi 核心贡献者 Armin Ronacher 与 Modem 联合创始人 Ben Vinegar 播客对谈指出，当前 AI token 市场不透明，模型公司或失控。如买 token 像买成分不明商品，模型训练目标不明，且 Agent 行为边界在扩展，问责制缺失。
通过查看GPU Assembly分析CUDA程序
文章是关于通过分析SASS代码提高内存受限CUDA程序性能的笔记。以向量复制程序为例，对比普通和向量化版本，通过查看SASS代码，解释向量化版本性能更快的原因是加载/存储数据量更大、启动块数更少。
超越免训练剪枝：LightVLA引入可微分token剪枝，首次实现VLA模型性能和效率的双重突破
文章介绍LightVLA框架，它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题，提出两大创新，在LIBERO实验中性能超经典模型，还实现推理加速。