「百万Token计算」共找到 1433 篇相关文章
突破单token预测局限！南洋理工首次将多token预测引入微调，编程任务准确率提升11.67%
当前主流大语言模型依赖下一token预测训练，难理解跨多token完整概念。南洋理工大学提出概念感知微调（CAFT）技术，首次将多token预测引入微调，能让模型理解完整概念，多领域实验显示其可显著提升模型性能。
这次，Token要直接发给学生，每人30万元
AI时代Token已成为核心科研资源，高校学生普遍面临Token匮乏、科研试错成本高的痛点。腾讯启动第二届青云奖学金，为每位获奖学生提供30万元Token额度加20万元现金，还配套产业交流资源。
Headroom：Netflix 工程师开源的上下文压缩工具，省 token 还是烧 token？
Netflix工程师Tejas Chopra开源Headroom，定位为AI Agent的上下文压缩层，压缩工具输出等内容，有可逆压缩等特性。官方数据显示节省token效果好，但微软工程师实测结果中性偏负面。
AI编程Token消耗降低神器：RTK（Rust Token Killer）实战指南
文章介绍RTK（Rust Token Killer），它能在CLI命令输出到LLM上下文前智能过滤压缩，节省60 - 90%Token。文中说明了其原理、特性、压缩策略，还给出安装配置步骤、实测数据及使用建议。
Token洪流的转向：当AI Agent成为Token消耗的主宰，什么样的推理服务基础设施才是刚需
Token消耗量转移，AI Agent成Token消耗主宰，大模型推理服务底层逻辑重塑。文章介绍AI Agent时代范式转变、对推理基础设施的需求，还阐述了为其打造的AI Serving Stack架构及优势，它获2025年度相关卓越奖。
警钟敲响！Hinton 最新万字演讲：怒怼乔姆斯基、定义“不朽计算”、揭示人类唯一生路
Hinton在演讲中提出“凡人计算”概念，指出生物智能会随肉体消亡，而AI软件与硬件解耦可“不朽”，还怒怼乔姆斯基，认为大语言模型理解语言方式与人类相似，且数字计算在知识共享上远超生物计算。
强化学习没作用？人大DelTA精准识别关键token，推理正确率大幅上升
人大高瓴研究团队提出DelTA算法，不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架，在多任务上提升base模型效果，还能让训练更稳定。
高性能计算群星闪耀时
本文介绍了高性能计算（HPC）在大模型时代的重要性，以及清华高性能计算团队在HPC及相关领域的研究与实践。如郑纬民带领团队突破存储技术，陈文光、翟季冬等助力大模型训练，武永卫团队优化推理，张悠慧探索类脑计算。
谷歌Gemini 3.1新模型深夜掀桌, 每秒狂飙363 token! 1/4价格暴击Claude
谷歌深夜推出Gemini 3.1 Flash-Lite，输出速度363 token/s，价格仅0.25美元/百万Token，跑分碾压GPT-5 mini和Claude 4.5 Haiku。开发者可通过Google AI Studio体验，企业用户可通过Vertex AI接入。
黄仁勋要发Token当工资！硅谷兴起刷量大赛，一人一周烧掉33个维基百科
硅谷兴起Tokenmaxxing（Token刷量大赛），AI公司追踪员工token消耗，招聘、考核都与token相关。风投者费用半年内从月付200美元涨至年烧10万。黄仁勋提议用token作薪酬，同时也有对刷量竞赛的质疑。