「单token验证」共找到 2021 篇相关文章
压缩之外,Visual Tokenizer 也要理解世界?
MiniMax和华中科技大学发布视觉tokenizer新研究VTP,引发业界热议。该研究揭示传统仅以重建为目标的视觉tokenizer缺乏高层语义表示,提出在预训练中引入语义理解,还发现Scaling Law现象,虽有争议但为研究提供新视角。
Token 压缩率飙升60%:大模型分词告别贪心合并
当前大模型效率优化多聚焦降低单位Token计算存储开销,本文解读arXiv新预印论文,针对传统BPE分词的固有局限,提出CNF-MCE分词框架,可大幅提升Token压缩率,开辟大模型效率优化新路径。
「甲子100」&「甲子Cool Vendor」榜单揭晓|甲子引力
2025甲子引力年终盛典在北京举办,现场发布【甲子100】与【甲子Cool Vendor】榜单,覆盖人工智能等核心赛道,呈现科技产业年度突破,表彰行业龙头、标杆与新锐力量。
阿里成立Token Hub事业群,打碎钉钉,做成龙虾!
阿里巴巴成立Alibaba Token Hub事业群,首席执行官吴泳铭挂帅。旗下设5大事业部,目标是创造、输送和应用Token。还发布企业级旗舰应用悟空,重写底层架构,打造专属文件系统与Skill生态,展示多款智能硬件。
「Tokens是胡扯」,Mamba作者抛出颠覆性观点,揭露Transformer深层缺陷
Mamba作者Albert Gu在博客中探讨状态空间模型(SSM)和Transformer权衡,抛出‘Tokens是胡扯’观点,揭露Transformer深层缺陷,如分词问题、处理噪声能力弱等,还分析两类模型特点及结合优势。
吴恩达新作:87%推理token用不着,丢掉反而快3倍
吴恩达新作Prefix Sliding指出,模型推理时丢弃中间已贬值token,只保留前缀+滑动窗口,无需训练可提速3倍,配合RL训练能将推理轨迹扩展到10万token以上。该方法为Agent场景提供新思路。
阿里AI重组:集团CEO吴泳铭亲征!「Token为王」全面决战ASI
阿里宣布成立全新的Alibaba Token Hub(ATH)事业群,由CEO吴泳铭挂帅,收拢通义千问等团队。这标志阿里AI战略转向,告别技术至上,聚焦B端商业变现与算力应用,围绕Token构建工业化流水线。
Jev 的「百亿补贴」迷局:既然「极省」为何还要狂送 1.2 亿 Token?
主打省Token的AI模型Jev,近日大手笔向用户发放1.2亿Token额度,本文深入分析这一反常操作背后的商业布局,拆解其抢占Agent小决策判断节点的底层逻辑。
华人团队终结Token危机:扩散模型数据潜力超自回归三倍
最新研究发现,token数量受限下,扩散语言模型数据潜力超自回归模型三倍多。一个1B参数的扩散模型用1B tokens训练,在基准测试取得不错准确率,且未现性能饱和。
强化学习没作用?人大DelTA精准识别关键token,推理正确率大幅上升
人大高瓴研究团队提出DelTA算法,不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架,在多任务上提升base模型效果,还能让训练更稳定。