「智元（Token）」共找到 1512 篇相关文章
号称1200万token上下文的模型来了，数据亮眼但疑点重重
当地时间5月5日，Subquadratic公司推出模型SubQ，称是LLM智能重大突破，有1200万token上下文。数据亮眼，如在1M token场景比FlashAttention快52倍等，但也引发质疑，有人推测是对开源模型微调，官方未公布详细模型卡。
token危机解决？扩散模型数据潜力3倍于自回归，重训480次性能仍攀升
新加坡国立大学AI研究者Jinjie Ni团队预训练扩散语言模型（DLMs）与自回归（AR）模型，发现DLMs是超强数据学习者，数据潜力超AR 3倍，重训480次性能仍攀升，还剖析同期研究方法论缺陷。
SGLang 的 DeepSeek-V4.1 Flash Day 0 优化实录：4×B300 上 BS=1 达到 764 tokens/s
本文是SGLang团队的DeepSeek-V4.1 Flash Day 0优化实录，详解了架构适配、KV cache压缩、kernel优化到DSpark适配全流程，公开4×B300 GPU实测吞吐数据，附复现代码与步骤
开源白嫖！微软这个开源 Agent,让 AI 帮你点按钮、填表格、跑多步流程（还可跨设备）
微软开源智能自动化框架 UFO，主线是 UFO³（Galaxy 多设备编排）+ UFO²（Windows 桌面 AgentOS）。能将多步任务拆分执行，解决跨应用、多步骤甚至跨设备任务难题，有多种功能亮点。
感谢 OpenClaw，国产大模型终于知道怎么挣钱了
OpenClaw作为免费开源项目，重新定义Token消耗量级，催生‘超级Token耗散场景’，倒逼模型厂商推出‘Token Plan’。多家国产模型厂商跟进推出‘龙虾套餐’，云平台也下场布局。但OpenClaw面临配置门槛、任务稳定性和必用场景等问题。
模型之上，才是真正的资产
微软CEO萨蒂亚·纳德拉在《没有生态的前沿，立不住》中提出，每家公司未来要构建人力资本与Token资本。强调Token资本构建靠学习闭环，还提出检验公司是否拥有Token资本的方法，呼吁避免价值集中到少数模型公司。
详细介绍！RAG 和 GraphRAG：了解何时（When）、如何（How）使用它们
文章详细介绍传统RAG和GraphRAG技术，前者通过向量搜索检索上下文，但无法体现数据关系；后者用知识图谱提升检索效果，亮点是构建图谱、整合信息。还指出两者优缺点，建议结合使用。
大语言模型（LLM）到底是怎么运作的？（配图通俗讲解）
文章先介绍条件概率，指出大语言模型预测下一个单词是条件概率问题，会计算所有可能单词的条件概率选最高的。还提到直接选最高概率会使内容单调，引出温度概念，它能调整概率分布影响抽样结果。
零Token部署GraphRAG，LinearRAG做到了~
现有GraphRAG模型在实际应用中常不如朴素RAG，原因是自动构建的知识图谱质量不佳。LinearRAG框架通过Tri - Graph架构、两阶段精准检索和零Token范式重构GraphRAG，在多数据集上超越现有方法，代码和数据已开源。
关于现代GPU体系结构内存一致性（Memory Consistency）模型的一些猜想（二）——同步性能
文章聚焦GPU应用层面，通过实验对比不同同步代码实现的性能。在H20 GPU上测试，发现scope越小同步性能越好，内存屏障开销随scope增大而增加，还介绍非PTX及官方推荐实现方式并给出性能对比。