「文本token」共找到 1110 篇相关文章

算法论文8

LLM算力告急?把文本变图片,推理成本直接减半!

大型语言模型处理长文本时计算成本高,本论文探索‘文本即图像’输入压缩策略,将长文本渲染为图像输入多模态模型,可减少近一半令牌,且任务性能不受显著影响,在多任务中验证了其有效性。

深度学习自然语言处理
开源动态8

Token洪流的转向:当AI Agent成为Token消耗的主宰,什么样的推理服务基础设施才是刚需

Token消耗量转移,AI Agent成Token消耗主宰,大模型推理服务底层逻辑重塑。文章介绍AI Agent时代范式转变、对推理基础设施的需求,还阐述了为其打造的AI Serving Stack架构及优势,它获2025年度相关卓越奖。

AI前线
新闻资讯7

基于百万亿 Token 的 AI 使用模式分析:趋势、拐点与未来|PPT分享

近期OpenRouter报告《人工智能现状:基于OpenRouter的100万亿Token实证研究》,分析超100万亿个token的真实世界LLM交互数据,弥补LLM实际使用情况证据不足,揭示2024年转折及多方面发现。

AI大模型应用实践
新闻资讯9

字节Seed实习生曝DeepSeek-V4技术缺陷:长文本检索陷入“周期性盲区”

字节Seed团队联合多校研究,发现DeepSeek-V4的分块KV缓存压缩架构存在长文本检索周期性盲区,不同Token位置检索准确率落差最高超40个百分点,揭露了传统长文本评测的盲区,DeepSeek已在V4.1改善但未完全消除缺陷。

AI前线
新闻资讯7

黄仁勋要发Token当工资!硅谷兴起刷量大赛,一人一周烧掉33个维基百科

硅谷兴起Tokenmaxxing(Token刷量大赛),AI公司追踪员工token消耗,招聘、考核都与token相关。风投者费用半年内从月付200美元涨至年烧10万。黄仁勋提议用token作薪酬,同时也有对刷量竞赛的质疑。

量子位
新闻资讯7

Token 降价的尽头,是一度电的账

AI进入算账阶段,Token成本成系统工程。优刻得董事长季昕华认为Token终局是电力,降本需选好数据中心、用国内模型等。企业要解决AI投入产出衡量问题,Token需求会持续增长,优刻得定位中立服务平台。

InfoQ
算法论文8

无Tokenizer时代真要来了?Mamba作者再发颠覆性论文,挑战Transformer

Mamba作者之一Albert Gu参与的论文提出分层网络H - Net,用动态分块取代tokenization。Tokenization虽能压缩序列但有缺点,H - Net在多方面表现出色,或预示无需Tokenizer训练时代到来。

机器之心
新闻资讯7

刚刚,北京建了一座AI工厂:目标10万P算力,日产10万亿Token!

九章云极在2026全球智算科技峰会发布AI工厂战略,含训练和Token工厂,目标10万P算力、日产10万亿Token。用DCU度量投入,Token度量产出,重构智能生产与交付体系,适配不同企业需求。

量子位
推荐文章7

为什么你的 AI Coding 账单越涨越快?十个节约 Token 的工程办法。

文章指出今年大模型Token账单涨得快,尤其AI编程重度用户。从工程角度总结降低Token消耗的方法,如上下文清场、代码导航等,还分析AI Coding的Token变贵原因及各方法适用边界。

AI大模型应用实践
产品应用7

Fable 5.1变身Token刺客,几分钟烧光额度!AI圈掀起「榨汁革命」

Anthropic发布的Fable 5.1虽性能强但极耗Token,引发开发者不满。当前AI产业面临算力饥渴与Token通胀问题,企业落地AI痛点多。迅策科技的TokenCloud平台能助力企业高效转化Token,还介绍了其配套产品TokenOS。

新智元