「Token 工程」共找到 1333 篇相关文章
ICML 2026 | 只用少量Thinking Tokens，大模型依然能深度思考
近年来，CoT 推理成为提升大模型复杂问题求解能力的重要路径，但带来效率问题。浙江大学等团队提出 Heima 框架，将冗长 CoT 压缩为少量 thinking tokens，在减少 token 数的同时保留推理能力，已被 ICML 2026 接收。
上下文就是一切！行业热议话题：提示工程是否应该改名
AI圈热议提示工程是否应改名“上下文工程”。Shopify CEO等发表看法，指出其在LLM应用和AI Agent构建中很重要，还分析了重要性、优化方法，给出实践经验，强调要在性能、成本和准确性间平衡。
「上下文工程」 已经30岁了，而你可能刚知道它
上海创智学院刘鹏飞老师团队提出上下文工程2.0，剖析其本质、历史与未来。上下文工程已发展30年，是熵减少过程，旨在弥合人机认知鸿沟。其历史呈收敛曲线，每次技术突破引发三重连锁反应，当前人类正处通向3.0转折点。
英伟达改卖Token？黄仁勋GTC后发声：token就是AI新通货，值钱的不是算力，是“每度电的智商”
英伟达黄仁勋在采访中强调其是加速计算公司，非单纯 GPU 公司。他认为 AI 竞赛从拼算力变拼产出，token 是新通货，还阐述了 AI 瓶颈、架构发展、推理编程、CPU 角色等观点。
上下文窗口限制被打破：Subquadratic推出了一个1200万Token的窗口
2026 年前沿模型宣传至少 100 万 Token 上下文窗口，但利用不佳。Subquadratic 推出能处理 1200 万 Token 窗口的模型，称可绕过问题，还将推 5000 万窗口模型，其 SSA 架构有优势，基准测试成绩佳。
重新思考 AI TCO：为何每 Token 成本才是唯一重要的指标
在生成式与代理式AI时代，传统数据中心转变为AI Token工厂，企业评估AI基础设施时不应只关注算力成本、每美元FLOPS，而应重视每Token成本，它决定AI规模化盈利，NVIDIA在该指标上表现出色。
零基础指南：从 Prompt 到上下文工程构建 AI Agent 【万字长】
作者结合培训经历，系统梳理零基础构建 AI Agent 的学习路径，涵盖结构化提示词工程、上下文工程与知识检索、工具函数设计和 Agent 规划等内容，还介绍各环节方法、策略和实践案例。
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法，通过PD分离、多层MTP优化等全栈优化方法论，还介绍多机性能优化方案，后续预计性能突破20000 tokens/s。
谷歌月Tokens消耗量领跑全球了：1300000000000000（别数了是千万亿）
谷歌月处理Tokens用量达1.3千万亿，较一年前的9.7万亿大幅增长。横向对比，谷歌在该指标上远超微软等大厂。Tokens消耗量可衡量模型多方面能力，谷歌为行业树立新标杆。
Token需求狂飙千倍，22亿热钱涌向这家AGI Infra头号玩家
在AI基础设施成风口的背景下，国内AGI Infra头部玩家无问芯穹获超7亿融资，其Token调用量爆发式增长。随着AI产业进入Agent阶段，传统架构难适配新需求，无问芯穹以中立定位成Token经济枢纽。