「省Token策略」共找到 1569 篇相关文章
无损加速视觉语言模型推理！轻松剪掉视觉冗余Token｜腾讯AI Lab
多图像、长视频让大型视觉语言模型推理成本暴涨，成算力瓶颈。腾讯AI Lab联合CMU提出VScan，通过两阶段视觉token筛选机制，在几乎不损性能的前提下实现推理加速，且已在GitHub开源。
刚刚，英伟达祭出下一代GPU！狂飙百万token巨兽，投1亿爆赚50亿
昨天，英伟达发布专为海量上下文AI打造的CUDA GPU——Rubin CPX，将大模型推理带入「百万Token时代」。它性能强大，能带来高回报，可重写推理经济，还将得到英伟达全栈AI生态支持，预计2026年底可用。
30天烧掉60万亿，扎克伯格没进前250：大厂AI沦为KPI游戏
亚马逊、Meta等大厂流行用token摸鱼，员工为拉高榜单数字让AI跑不必要任务。Jellyfish数据显示烧10倍token仅换来2倍产出，成本飙升。这既扭曲生产力，又为资本开支背书。
上交大 × 华为小艺推出LoPA：7B扩散语言模型单样例1000+ tokens/s！
上海交通大学DENG Lab联合华为小艺团队提出无需训练的解码算法LoPA，配合自研的LoPA - Dist分布式推理系统，显著提升扩散大语言模型（dLLMs）的推理并行度和吞吐量，将推理效率推向新高度。
DeepSeek-OCR降本增效，10×暴力压缩还能读得清
Deepseek - OCR模型发布，通过光学压缩技术解决长文本处理的计算效率问题，能控制大模型token消耗成本。介绍了其架构设计、数据引擎及训练流程，还展示其用较少token超越现有模型的能力。
超10亿人民币！芯擎科技完成新一轮融资，获得两省首单AIC
近期，芯擎科技宣布完成超10亿元B轮融资，获湖北、山东两省首单AIC股权项目。它是国产智能座舱芯片市占率第一，能覆盖智能座舱到智能驾驶。创始人称将加大研发，推动汽车智能化。
8 个月做到 1 亿美元 ARR，Lovable 增长负责人：免费用户不是成本，是营销渠道
Lovable增长负责人Elena Verna分享产品增长经验，指出增长团队核心是解决分发问题，PLG概念被过度炒作，传统增长策略失效，应把免费产品当营销预算，还给出未来增长的8个关键策略。
一百万亿Token里的AI现状：OpenRouter和a16z重磅研究带你透视AI江湖
OpenRouter和a16z发布重磅研究，用100万亿Token绘制AI实景地图。2025年推理模型崛起，开源模型流量份额攀升，编程与角色扮演需求大，还揭示了用户留存的“灰姑娘效应”等，展现多元AI世界。
王兴兴署名，宇树机器人春晚之后又进化了：单个策略就能学习各种极限动作
春晚上，宇树机器人展现高动态、高协同的全自主集群控制技术。现在，多机构提出 OmniXtreme 通用策略，可执行各种极限动作。该框架分两阶段，经测试在仿真和现实中表现出色，打破了泛化壁垒。
阿里通义发布并行计算新策略：1.6B等效4.4B，内存消耗骤降95%
阿里通义团队提出PARSCALE并行计算新策略，受CFG双路径推理机制启发，将并行思想扩展到训练和推理全流程。能让1.6B模型性能接近4.4B模型，内存占用大降，还可用于现有模型，无需从头训练。