「Token效率」共找到 1758 篇相关文章
Discrete Tokenization：多模态大模型的关键基石，首个系统化综述发布
近年来，人们关注将LLM能力扩展至非文本模态，Discrete Tokenization成关键方案。但现有研究缺系统总结，香港科技大学等团队发布首个相关系统化综述，梳理技术脉络、方法及挑战，给出未来研究方向。
重构线性视觉Transformer，精度与效率双平衡 | CVPR'25
南洋理工、北航与合工大联合提出CARE Transformer，以非对称解耦建模局部与全局，降低计算开销、提升特征表达。实验显示其在移动端低延迟高精度，打破“效率与精度不可兼得”困局。
MIT & Google | 提出异步并行生成新范式，LLM推理效率大幅提升！
MIT与谷歌团队在研究PASTA中探索异步生成范式，开发标记语言PASTA - LANG，采用双阶段训练流程，设计推理系统。实验显示PASTA平衡性能与质量，有可扩展性，为LLM推理效率优化开创学习驱动新路径。
开发效率狂飙十倍！Claude托管智能体功能改写应用落地速度
Anthropic上线Claude托管智能体功能，让开发者告别底层基建搭建，只需几天就能让业务级智能体投入生产。该功能有四大核心流转模块，多家企业使用后效率大幅提升，还介绍了接入细则。
17000 tokens的GPT-5系统提示词被意外泄露，以及八点总结~
OpenAI GPT - 5的system prompt被曝光在github，约17803 Tokens、78960 Characters。文章对提示词做八点分析总结，如互动风格、写作要求、工具使用等，还给出工具部分重点。
睡觉也在卷！伯克利Letta新作「睡眠时计算」让推理效率飙升
Letta和UC伯克利研究者提出「睡眠时计算」技术，能让LLM在空闲时间提前思考以提升推理效率，降低推理成本，在多数据集实验中展现优势，在软件工程任务中也有应用。
开源DeepSeek R1增强版：推理效率快200%，创新AoE架构
德国TNG公司开源DeepSeek R1增强版DeepSeek - TNG - R1T2 - Chimera，基于三大模型混合开发，采用创新AoE架构，推理效率比R1 - 0528快200%，成本大减，在主流测试中性能更好。还介绍了AoE架构构建子模型方法。
ACL 2025预定爆款！HyperGraphRAG横扫5大领域，检索效率提升7倍
文章聚焦HyperGraphRAG模型，介绍其架构由知识超图构建、超图检索策略、超图引导的生成机制组成，阐述构建步骤，该模型能提升检索效率，或成ACL 2025爆款。
大神周末开源省token野路子，claude fable5账单砍掉6成
外网大神周末开源插件，将模型上下文等渲染成图片，可让账单降低59% - 70%。原理是图片token只与像素尺寸有关。此前因模型识图能力差难落地，fable5证明其极限省钱且效果保留。
多模态卷王阶跃星辰Step 3登场，推理效率可达DeepSeek-R1 300%
新一代多模态推理基模Step 3登场，它采用原创MFA架构，具“多开好省”亮点，推理效率高、性价比优。7月31日将开源，能适配各芯片，还发起“模芯生态创新联盟”推动应用落地。