「Token 工程」共找到 1340 篇相关文章
英伟达下一代GPU登场，Rubin CPX一次推理数百万Token，网友：这是头野兽
在周二的AI基础设施峰会上，英伟达宣布推出专为超100万token长上下文推理设计的Rubin CPX GPU。它将与其他产品组成新平台，性能卓越，还能复用现有平台，预计2026年底上市。
深度解读｜LLM Wiki 的工程实践，从 AI Coding、Obsidian 到 RAG 协同。
文章介绍 LLM Wiki 工程实践。包括为 AI Coding 创建知识地图，指导 Agent 加载上下文；在 Obsidian 构建知识体系，有插件和自定义 Agent 两种方法；还分析其与 RAG 关系，指出可融合互补，不要过度神话 LLM Wiki。
RAE+VAE? 预训练表征助力扩散模型Tokenizer，加速像素压缩到语义提取
近期，RAE 提出以「 冻结的预训练视觉表征」作潜空间提升扩散模型性能。同期西安交大与微软亚研院提出 VFM - VAE，结合 RAE 与 VAE，能加速模型收敛、提升生成质量，展示扩散模型 Tokenizer 演化方向。
无损加速视觉语言模型推理！轻松剪掉视觉冗余Token｜腾讯AI Lab
多图像、长视频让大型视觉语言模型推理成本暴涨，成算力瓶颈。腾讯AI Lab联合CMU提出VScan，通过两阶段视觉token筛选机制，在几乎不损性能的前提下实现推理加速，且已在GitHub开源。
知名产品工程师开源「一整套编程skill」，每个人都能有顶级的工程习惯
现在用AI写代码存在效率低、浪费token等问题，知名开发者tw93发起开源AI编程skill库Waza，将顶尖工程师习惯转化为Claude Code可运行技能，推出8实用技能，还提供两个小脚本。
Harness不是目的，知识才是护城河 —— 一个AI工程交付团队的知识沉淀实践
本文指出构建Harness工作流非最终目的，私域和团队知识沉淀才是技术护城河。分享AI Team工程交付编排系统中知识分层架构设计、团队知识库共建共享、工作流成知识沉淀载体、突破人机交互瓶颈及落地经验与思考。
工业级 LLM 数据工程：北京大学 DCAI 团队 DataFlow 框架的架构设计与实践
2026 年大模型研发从‘模型中心’向‘数据中心’演进，数据语义密度与工程精度成突破关键。北京大学 DCAI 团队推出 DataFlow 框架，解决数据准备难题，其技术报告登顶 Hugging Face。该框架有多种特性，实验验证其能提升模型性能。
登上热搜！Prompt不再是AI重点，新热点是Context Engineering
最近「上下文工程」很火，Andrej Karpathy 为其打 Call。它和「提示词工程」不同，是构建自动化系统给模型提供输入。文章介绍了其核心要素、实践方法论，还给出了参考的博客和视频。
刚刚，英伟达祭出下一代GPU！狂飙百万token巨兽，投1亿爆赚50亿
昨天，英伟达发布专为海量上下文AI打造的CUDA GPU——Rubin CPX，将大模型推理带入「百万Token时代」。它性能强大，能带来高回报，可重写推理经济，还将得到英伟达全栈AI生态支持，预计2026年底可用。
腾讯广泛使用的跨端开发框架——Kuikly在搜狗输入法中的AI Coding实践
AI 席卷开发领域，输入法团队在 Kuikly 跨端项目探索 AI 工程化方案。介绍了推进 AI 友好型工程、构建精准 AIContext 等关键层面，以灵感词库页面开发为例展示效果，还展望了未来探索方向。