token使用量」共找到 2392 篇相关文章

算法论文8

75%预训练数据都能删!Jeff Dean新作:全自动筛除低质数据

Google DeepMind团队开发的DataRater可全自动评估数据质,用元学习筛选有价值数据,提升模型训练效率。它能减少计算、提高性能,在低质数据集效果佳,还能跨模型规模泛化。

新智元
推荐文章7

深刻理解Token:大语言模型(LLM)是如何看待这世界?

文章指出在大语言模型(LLM)中,Token是处理文本的基本单位。介绍了Token的概念、分词方法、向化过程,还阐述了分词对模型性能的影响,如导致模型在数学、多语言处理上表现不佳等。

AINLPer
新闻资讯7

AI开始替人类调用AI!token已是人类5.2倍

据OpenRouter统计,截至8月10日,Agent类token半年涨14倍,人类仅2.8倍。差距源于用法差异,虽智能体部分token计价低,但用大仍烧钱。省钱关键在配套,且智能体任务验收缺人手。

新智元
产品应用8

国内首次!8.9毫秒推理速度破纪录,1元打穿百万token

在2025人工智能计算大会上,浪潮信息发布元脑SD200和元脑HC1000两款AI服务器。前者让DeepSeek R1的Token生成速度达8.9毫秒,后者将推理成本降至1元/百万Token,解决了AI智能体速度与成本难题。

新智元
推荐文章7

如果你的大学不提供 Token,应该立即退学

本文站在学生角度探讨 AI 时代大学生学习问题。认为高校在 AI 教育上滞后,不提供 Token 不合理。强调学生应善用 AI,具备问题意识、判断力和品味,还给出了使用 AI 的具体建议。

特工宇宙
推荐文章7

无限Token | 搭建一家Agent First公司(一)

作者从单兵模式转向搭建 Agent First 公司,认为无限 Token 是基础设施而非福利。介绍了 Agent First 工作方式,指出成本使人们不敢依赖 AI,给候选人配 Claude Max 降低使用门槛,还分享工作流搭建实例。

AI产品黄叔
推荐文章7

精打细算虾养成指南: 省 Token 和把 AI 用好,从来就是一件事

文章指出用AI时Token成本高、模型变笨,原因是上下文管理不善。介绍了省Token和用好AI的方法,如按需取上下文、明确约束、多智能体协作、按阶段切换模型等,核心是在合适时间将合适上下文装入合适模型。

腾讯技术工程
算法论文8

紫东太初推出GMC核心集剪枝方法,少80%Token仍满血保真多模态能力

视觉Token冗余是多模态模型高效推理与落地的瓶颈,传统筛选方法有缺陷。紫东太初团队提出GMC核心集剪枝方法,具双阶段架构,优势多,实验显示其能在减少Token同时保持性能。

量子位
开源动态7

token神器3天狂揽4.1k星!19岁小哥开发,信息无损最高省87%

一款名为caveman的省Token神器在GitHub蹿红,3天揽4.1K星。它由19岁外国小哥开发,能让Agent表达更简洁,信息无损最高省87%。不过也存在争议,如节省的多为输出Token,强迫简洁或让模型变笨。

量子位
算法论文8

EMNLP2025 | 揭开LLM训练数据中的中文污染真相,有比“您好”高2.6倍的token

近年来,大型语言模型虽成功,但训练数据易混入不良内容。论文《Speculating LLMs' Chinese Training Data Pollution from Their Tokens》探索此问题,定义PoC Token,开发PoCDetect和PoCTrace工具,揭示LLMs训练数据污染情况。

深度学习自然语言处理