搜索：Token压缩技术

「Token压缩技术」共找到 3628 篇相关文章

打破视觉Token的算力诅咒，RedundancyLens如何为多模态大模型推理减负

多模态大模型的 Decoder - only 架构处理视觉 Token 有计算冗余。合合信息团队提出无需额外训练的动态计算削减方法，在不影响性能前提下降低推理成本，适用于多场景。

信通院大模型推理能力评估中，文心X1 Turbo获最高级“4+级”。百度AI Day上，副总裁吴甜解析文心4.5 Turbo和文心X1 Turbo，从多模态、深度思考等方面介绍技术，还展示其在多场景应用成果。

本文围绕企业级任务型语音Agent核心挑战，提出解决“拟人化”与“专业化”问题。介绍三段式语音对话解法、架构演进，还提及‘衍算’推理框架等技术及未来方向，团队来自蚂蚁集团AI force。

近期大火的Jev模型由TypeSafe AI推出，现已向所有用户开放，新用户可获得5美元额度约合1.2亿token。该模型主打快速结构化判断，引发AI社区热议，围绕其定位、能力优劣也有不少讨论与实测。

Claude最强“神话”模型Mythos引发猜测，或用了字节Seed技术。社区热议其是否采用循环语言模型架构，关键线索来自Anthropic测试数据，在图搜索测试中Mythos优势明显，还有其他线索指向循环架构。

OpenAI推出Codex for Open Source项目，由‘龙虾之父’Peter Steinberger宣传。该项目为开源贡献者免费送ChatGPT token，可申请API积分、免费用6个月ChatGPT Pro等，申请门槛不算高。

在AI算力增长与能源转型驱动下，电力供给变革。国民技术发布面向AI数据中心的3 kW数字电源参考设计方案NS3KW53V5P2L3，基于N32H474芯片和Hunter OS生态，有高转换效率等优势。

Anthropic给Claude Code加语音模式，输入 /voice，长按空格说话即可输入，转录Token全免。OpenAI的Codex也更新类似功能。语音编程在Debug、架构讨论等场景好用，但识别变量名等仍有短板，未来编程将多模态。

在NeurIPS 2025论文中，南京理工大学等校研究团队提出VIST框架，为大语言模型长文本高效推理提供视觉解决方案。它模仿人类阅读机制，让模型具备选择性阅读能力，减少Token需求和内存使用。

2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。