搜索：百万Token计算

「百万Token计算」共找到 1374 篇相关文章

无损加速视觉语言模型推理！轻松剪掉视觉冗余Token｜腾讯AI Lab

多图像、长视频让大型视觉语言模型推理成本暴涨，成算力瓶颈。腾讯AI Lab联合CMU提出VScan，通过两阶段视觉token筛选机制，在几乎不损性能的前提下实现推理加速，且已在GitHub开源。

文章指出过去50年影像公司通过推动坐标点向「计算」端移动创造商业变量。如今计算突破天花板，带来理解、增强、生成现实三层价值释放，解锁新场景，AI Native影像公司机会巨大。

AI 科技评论独家消息，熵旋芯智获数千万元天使轮融资，由英诺天使基金领投。该公司是国内唯一基于 MRAM 构建存内概率计算平台的企业，采用全栈软硬协同策略，有望大幅提升能效比，计划 2027 年初交付芯片。

美图旗下视频编辑产品 Wink 月流水超百万美元，MAU 在 770 - 900 万间波动。它靠变美和画质修复打出差异化，面向泛用户，在国内和东南亚市场增长好，采用订阅与内购配合的变现策略。

2025年初，与爱为舞落地国内首个真人级AI一对一导师产品「爱学」，上线不到一年有超百万学员使用。它突破传统AI教育局限，自研全栈技术体系，从多方面打造优质AI导师，为AI Agent规模化落地定义范式。

亚马逊、Meta等大厂流行用token摸鱼，员工为拉高榜单数字让AI跑不必要任务。Jellyfish数据显示烧10倍token仅换来2倍产出，成本飙升。这既扭曲生产力，又为资本开支背书。

在多模态大模型加持下，纯视觉GUI智能体成通用操作智能体重要方向，但面临元素与历史上下文问题。哈工深和华为提出SimpAgent，从上下文简化建模入手，实现更快更强性能，工作被ICCV 2025录用。

上海交通大学DENG Lab联合华为小艺团队提出无需训练的解码算法LoPA，配合自研的LoPA - Dist分布式推理系统，显著提升扩散大语言模型（dLLMs）的推理并行度和吞吐量，将推理效率推向新高度。

优步成功将计算平台从 Apache Mesos 迁至 Kubernetes，覆盖多数据中心和云环境。工程团队详述迁移挑战、方案与教训。虽遇技术、文化难题，但迁移后运营效率等提升，为大公司提供借鉴。

昨天下午，DeepSeek 更新了 DeepGEMM 代码库，带来新东西 Mega MoE。它将 MoE 计算流程整合，让数据通信和计算同时发生，提高 GPU 利用率。还尝试组合精度、搞 FP4 indexer 等，是基础设施层重构尝试。