「token使用量」共找到 2492 篇相关文章
告别大模型“失忆”！人大开源MemSifter：轻量代理先思考再回忆，搞定长时记忆
当前大语言模型在长周期任务中，长时持久记忆管理陷入“精度不够”和“成本太高”的两难困境。中国人民大学团队提出MemSifter框架，将记忆检索工作外包给轻量级代理模型，在8个权威测试中超越现有方案，且已开源。
告别大模型“失忆”！人大开源MemSifter：轻量代理先思考再回忆，搞定长时记忆
中国人民大学团队提出全新LLM记忆管理框架MemSifter，打破长时记忆管理‘精度不够’和‘成本太高’的困局。它将记忆检索‘外包’给轻量级代理模型，采用任务结果导向的RL训练范式，在8个基准测试中超越现有SOTA方案。
估值神话即将崩盘？Palantir CEO狂喷OpenAI和Anthtropic：拿走企业核心机密还要收过路费
Palantir CEO Alex Karp在电视采访中拆解OpenAI和Anthropic商业模式，指出企业花买token的钱未获匹配价值，商业机密被拿走。他质疑按token收费机制，认为不能稳定创造价值。还指出企业数据可能使模型取代自己，行业高估值或松动。
AI 时代的人们，正在两极分化
文章指出人们对AI的认知正出现巨大裂缝，Karpathy将人分为两拨，一拨用免费版ChatGPT后认为AI不过如此，另一拨花高价订阅前沿模型感受其惊人进步。不同用户群体使用的AI能力代差大，还提及使用时长维度。
8 位 AI Infra 高管复盘 WAIC：当堆砌「暴力美学」触顶，AI Infra 如何求变？
雷峰网与8位参展AI Infra公司的决策者交流，捕捉行业新方向和共识。今年行业关注重心从拼规模转向比效率，Token推理成算力消耗主体，AI工厂和Token工厂共生，未来竞争聚焦效率，不同玩家各有优劣。
智能体请求暴增 9.4 倍，token 账单却没涨：Uber 公开 AI 软件工厂省钱方法
Uber AI已嵌入软件开发全流程，超70%代码合并请求由智能体生成，半年内智能体请求暴增9.4倍，通过多项优化实现AI总支出稳定，本文公开其整套AI降本方法论。
黑洞信息悖论推进至“定量完备性模量”：清华团队开源VeriLoop E2迈向可验证智能
针对大模型长链推理、科研任务中无法自我验证结果可靠性的结构性缺口，清华团队推出开源项目VeriLoop E2，拆分模型探索权与外部证据提交权，在多场景完成验证，推进可验证智能发展。
GPT-5.2被曝作弊！偷袭谷歌竟靠拉爆token刷高分，不如Gemini 3
新智元报道，OpenAI刚发布GPT - 5.2就被指「作弊」，其在基准测试中或调参数使模型用更多算力资源。有用户发现它消耗远超对手的token才获成绩，真实能力或与Gemini 3相当。此外，还揭示了OpenAI为商业利益牺牲学术独立的问题。
超10万亿Tokens的高质量数据集是怎么炼成的？专访中国电信天翼AI阮宜龙
中国电信天翼AI打造超10万亿Tokens高质量数据集，依托星辰MaaS平台构建“数据—模型—服务”闭环。其与研究院推进技术研发并落地产品，建“三全”星辰大模型体系，还在多行业展现应用价值。
突破一亿Token极限：EverMind提出MSA架构，实现大模型高效端到端长时记忆
机器之心发布文章介绍，大模型长期记忆能力受限于上下文长度。《MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens》提出MSA架构，突破扩展性、精度和效率的不可能三角，实现100M长度的大模型长时记忆框架。