「低token高压缩」共找到 1790 篇相关文章
开源AI开发生态大洗牌：低代码平台逆袭，传统LLM框架日渐式微
第十届527蚂蚁技术日，蚂蚁对现有开源生态全面剖析，发布2025大模型开源生态全景图。分析显示开源生态有三个主导技术赛道，还总结出七大趋势，为从业者提供生态演进规律参考。
这一年，DeepSeek消耗14万亿Token，编程仅占1/10，超一半用于角色扮演？
a16z和OpenRouter基于100万亿token研究揭示LLM使用情况：开源模型占三成市场，编程任务成刚需，角色扮演是金矿。还提到‘玻璃鞋效应’影响用户留存，市场分层为‘高端闭源+性价比开源’双轨制。
英伟达下一代GPU登场，Rubin CPX一次推理数百万Token，网友：这是头野兽
在周二的AI基础设施峰会上，英伟达宣布推出专为超100万token长上下文推理设计的Rubin CPX GPU。它将与其他产品组成新平台，性能卓越，还能复用现有平台，预计2026年底上市。
无损加速视觉语言模型推理！轻松剪掉视觉冗余Token｜腾讯AI Lab
多图像、长视频让大型视觉语言模型推理成本暴涨，成算力瓶颈。腾讯AI Lab联合CMU提出VScan，通过两阶段视觉token筛选机制，在几乎不损性能的前提下实现推理加速，且已在GitHub开源。
OnlyOffice 平替，用 Vue3 + Vite 做了个“本地 OnlyOffice”：接入成本低到离谱！！！
文章介绍 onlyoffice-web-local 项目，它是基于 OnlyOffice 的纯前端本地网页文档编辑器，无需服务器端处理，部署轻、接入快、更安全。阐述其功能、适用场景，给出开发部署及集成方案，可作 OnlyOffice 平替。
刚刚，英伟达祭出下一代GPU！狂飙百万token巨兽，投1亿爆赚50亿
昨天，英伟达发布专为海量上下文AI打造的CUDA GPU——Rubin CPX，将大模型推理带入「百万Token时代」。它性能强大，能带来高回报，可重写推理经济，还将得到英伟达全栈AI生态支持，预计2026年底可用。
传统训练效率很低？我们靠 “给模型降噪” 重新审视长上下文建模难题
文章指出长上下文模型处理长文本时易受噪声干扰，提出新评估指标IG分数和“上下文去噪训练（CDT）”方法。实验表明CDT优于现有策略，经其训练的开源模型在长上下文任务中性能媲美GPT - 4o。
30天烧掉60万亿，扎克伯格没进前250：大厂AI沦为KPI游戏
亚马逊、Meta等大厂流行用token摸鱼，员工为拉高榜单数字让AI跑不必要任务。Jellyfish数据显示烧10倍token仅换来2倍产出，成本飙升。这既扭曲生产力，又为资本开支背书。
推理时间减少70%！前馈3DGS「压缩神器」来了，浙大Monash联合出品
在AR、VR等领域，3DGS是新视角合成（NVS）领域备受关注的技术方案。现有前馈3DGS模型存在编码器容量有限等问题，ZIP Lab和Monash团队引入信息瓶颈原理，推出轻量级模块ZPressor，有效解决信息过载难题。
破解MoE模型“规模越大，效率越低”困境！中科院自动化所提出新框架
大模型参数量飙升却陷入‘规模越大，效率越低’困境，中科院自动化所研究团队提出统一框架，直击MoE底层运作模式，让专家‘组队学习’，实现参数量、负载方差降低，达成三重优化。