「上下文token」共找到 1213 篇相关文章
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
Transformer | 一文带你了解Embedding（从传统嵌入方法到大模型Embedding）
文章介绍Embedding基础知识，从传统统计方法到如今大模型用例演变过程。涵盖传统、静态、上下文及大模型Embedding技术，如TF - IDF、word2vec、BERT等，还剖析DS - Qwen1.5B的Embedding并以图展示。
小米MiMo Agent 跨会话进化
多数AI编程Agent任务一长就忘事，业界主流靠堆上下文窗口应对，但有缺陷。小米MiMo团队开源的MiMo Code，靠显式存储 - 检索机制，200步以上任务胜率超Claude Code达65%，介绍了其设计及优缺点。
别再错过啦，AI Agent记忆革命：95.2%检索率的持久记忆系统深度解析
agentmemory是为AI编码Agent打造的持久记忆系统，能自动捕获操作上下文，有三层搜索与四层记忆架构。支持12+种主流AI Agent，有全平台覆盖、零外部依赖等优势，虽有局限但值得开发者一试。
手机跑多模态也能快到飞起！面壁MiniCPM-V 4.6开源
面壁智能开源多模态模型MiniCPM-V 4.6，以低算力成本、超低首Token延迟打通三大主流手机操作系统。它算力瘦身性能强，是视觉语言多面手，还适配主流系统，降本增效，让AI能力从云端到指尖。
ACL 2026｜Doc-V*：读100页文档不如只翻对5页，80页场景「暴打」RAG 10个点
Doc-V*由小米和华中科技大学团队提出，是多页文档理解新范式，通过交互式视觉推理让模型有策略地读长文档。它在多页文档问答基准上比RAG变体提升49.7%，不依赖大模型或长上下文窗口。
6行代码搞定AI Agent记忆！这个16K Star的开源项目打破了传统RAG痛点！
传统RAG方案有上下文断裂、检索不精准等问题，而开源项目Cognee用6行代码就能给AI Agent构建持久化记忆系统。它结合向量搜索和图数据库，形成统一记忆层，支持30+数据源，有多种核心API。
北大团队改造DeepSeek注意力，速度快四倍还不丢精度
北大张牧涵团队提出新稀疏注意力机制HISA，突破64K上下文索引瓶颈，相比DSA提速2 - 4倍，且不丢精度、即插即用。该机制分块级粗过滤和块内精挑字符两步，实测表现亮眼，也指出后续改进方向。
OpenClaw 背后核心框架 Pi：好的 Coding Agent 应该让用户来决定需要什么
OpenClaw 背后核心框架 Pi 是极简框架，系统提示词和工具定义不到 1000 tokens。开发者 Mario 认为好的 coding agent 应让用户决定需求。Pi 不支持 MCP 等，在 Terminal Bench 2.0 排名靠前，GitHub 星数超 24000。
Agent Team 实践与架构设计：在约束下构建可演进的一个人开发团队
作者结合构建的Routa，探讨在Token、流程、工具选择等约束下构建可演进的多Agent系统。介绍了Routa架构、原则，如跨Agent通信、状态外置等，还阐述了各设计要点及示例，强调系统可演进性。