「零Token部署」共找到 1617 篇相关文章
1万tokens是检验长文本的新基准，超过后18款大模型集体失智
Chroma团队研究发现，将上下文扩展至1万tokens，18款主流大模型集体“失智”，“智商”非均匀下降，在一些节点会断崖式下跌。研究还设计四项对照实验，证明LLMs性能随输入长度增加显著且非均匀下降。
机器人「看片」自学新技能：NovaFlow从生成视频中提取动作流，实现零样本操控
布朗大学和机器人与人工智能研究所团队提出 NovaFlow 框架，利用视频生成模型常识知识，让机器人“看片”自学。它将任务理解与控制解耦，通过生成视频提取动作流，实现零样本操控，为通用机器人提供新路径。
腾讯把IMA知识库开源了！WeKnora支持Agent调用、MCP协议扩展，企业级RAG零成本落地
腾讯开源WeKnora，这是面向复杂异构文档的LLM框架，走完整RAG流程。它有Agent模式，支持多种知识库类型和格式，有Web UI。适合公司、研究者、开发者等，还给出了上手步骤和部署提醒。
“如果你不用更多Token，就永远逃不出底层”：AI竞赛开始变成资源战争
文章围绕AI竞赛中资源分配问题展开，以SemiAnalysis创始人Dylan Patel经历为例，揭示Token成本疯涨、需求远超供给，介绍Anthropic模型优势，探讨具身智能成新需求点，分析竞争格局及供应链瓶颈，还预警反AI抗议。
Uber Hive 联邦架构：1.6 万数据集、10PB 数据去中心化，支撑大规模分析零停机
Uber重新设计Hive数据仓库，将超16000个数据集、超10PB数据去中心化部署，解决可扩展性等挑战。采用基于指针方案迁移，系统含四大组件降低运营风险，还减少存储开销，提升生态弹性。
开发者冲爆了！全球前十AI Lab无限免费，一周烧出3.12万亿Token
6月1日，全球模型榜单前十的Agnes AI无限期免费开放旗下核心全模态模型API，引发开发者热情。两周后周调用量达3.12万亿Token，本周还将升级，周五补齐语音全模态链路，开源社区也围绕其开展诸多项目。
Claude Code 省 Token 指南：慎用 1M 上下文，不开新会话或者总是开新会话都不对
文章聚焦Claude Code省Token问题，分析配额消耗快的原因，介绍提示缓存机制，给出省钱策略、操作规则，还提及委派工作及澄清误解，强调让缓存多命中、上下文少装无关内容。
上交大和辉羲把LLM刻进ROM！推理性能冲2万token/s，GPU时代终结？
硅谷Taalas将大模型‘物理焊死’进芯片引关注，而上海交大、辉羲智能与微软亚洲研究院团队用ROM+SRAM异构架构，将端侧LLM推理速度推至20,000 tokens/s。介绍了ROMA和TOM架构优势及应用场景。
2.9K Star！这个工具让 Agent 查代码快了 200 倍！节省 98% Token 消耗！
当下，Agent 在代码工作流应用广泛，但在大型代码库搜索时存在精准性、Token 效率和速度问题。Semble 是 MinishLab 团队开发的面向 Agent 的代码搜索工具，能解决上述问题，还具备多方面亮点，安装和使用也简单。
为什么95%的智能体都部署失败了？这个圆桌讨论出了一些常见陷阱
硅谷圆桌论坛指出，95%的AI智能体部署失败，原因并非模型不智能，而是基础框架、上下文工程等未成熟。还探讨了上下文工程实践、信任治理、记忆设计、多模型编排等问题，给出创业者需思考的问题。