「上下文token」共找到 1262 篇相关文章
基于百万亿 Token 的 AI 使用模式分析：趋势、拐点与未来｜PPT分享
近期OpenRouter报告《人工智能现状：基于OpenRouter的100万亿Token实证研究》，分析超100万亿个token的真实世界LLM交互数据，弥补LLM实际使用情况证据不足，揭示2024年转折及多方面发现。
SVG性能比肩GPT/Claude，腾讯开源3B模型HiVG，让Token「懂几何」
腾讯混元团队开源仅3B参数的HiVG，它是面向SVG生成的层次化分词框架，减少63.8% token数量，多项指标超越GPT-5.2等闭源模型及8B级开源模型，还在人类评测中表现出色。
8K Star！给所有 AI 编程工具加个智能调度中心，节省 20-40% Token！
AI编程圈火了个工具9Router，它是智能调度中心，能连接主流编程工具，自动路由到40多家AI提供商和100多个模型，自带RTK Token节省器，还有实用的三级降级机制，安装配置简单。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。
“毋在浮沙筑高台”：汪源谈智能体想从 80 分跨到 90 分，全卡在上下文
前网易副总裁汪源在2026奇点智能产品大会分享，指出智能体系统瓶颈正从模型能力、Harness工程，转移到上下文。他还介绍了做好上下文基础设施的要点，以及推出的新内容格式KRL。
Meta员工空转AI只为浪费token！烧的多挣的多，日均消耗2万亿
Meta内部在首席AI官亚历山大王推动下，员工为抢夺虚荣头衔展开“Token竞技”，日均消耗两万亿Token。这源于扎克伯格重写代码库要求，首席技术官支持资源投入。新模型将半开源，嵌入社交业务。
GAIR Paper 106｜追踪视觉 Token 的演化轨迹，实现无损压缩与 60% 推理加速｜CVPR 2026
近年来大视觉语言模型虽推动多模态智能发展，但推理成本高昂。山东大学和MBZUAI团队提出TransPrune，从演化视角衡量视觉Token重要性，保持性能无损同时降低60%推理成本。
大模型如何"不训练"也能学习？——上下文学习的隐式权重更新机制
大型语言模型能通过上下文学习（ICL）在推理时即时学习新任务，无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新，解释了ICL原理，为构建AI系统开辟新路径。
神秘模型排名超 Gemma 4 31B：不跟 Qwen 硬刚，主打“快”和“省 token”
OpenRouter的Elephant模型Trending榜排名超Gemma 4 31B。它是100B参数隐身模型，主打‘智能效率’，在速度、token消耗、指令遵循等方面与其他100B级别模型对比各有优劣，代表极致轻量路线。
谷歌Gemini 3.1新模型深夜掀桌, 每秒狂飙363 token! 1/4价格暴击Claude
谷歌深夜推出Gemini 3.1 Flash-Lite，输出速度363 token/s，价格仅0.25美元/百万Token，跑分碾压GPT-5 mini和Claude 4.5 Haiku。开发者可通过Google AI Studio体验，企业用户可通过Vertex AI接入。