智元(Token)」共找到 1455 篇相关文章

开源动态8

大部分token根本不该重复计算,不止于KVCache

斯坦福研究显示,AI Agent每次调用62%内容重复,现有前缀缓存虽有优化但天花板低,阿里云数据表明多数缓存块利用率低。LMCache将缓存管理独立,解决性能问题,其CacheBlend技术复用缓存,适配多引擎和存储后端。

AI工程化
推荐文章7

tokens烧钱太快?试试这个四层模型组合

ClaudeCode等智能体兴起,开发者面临tokens不够用、主流模型降智问题。网络给出多模型策略缓解,网友将2026年主流模型分四档,还介绍了实际路由策略、部署建议,指出单模型依赖危险。

AI工程化
新闻资讯8

月吞100万亿Token!AI中转站OpenRouter赚爆了

OpenRouter宣布完成1.13亿美元B轮融资,估值达13亿美元。它每周处理25万亿个tokens,全球用户超800万。其提供AI推理统一控制层,解决企业多模型管理难题,开源模型崛起使其价值凸显。

新智元
新闻资讯7

卡帕西Anthropic最新头衔:技术员工MTS)

卡帕西在Anthropic头衔为技术员工MTS)引关注,不止他,很多大佬加入Anthropic和OpenAI职级都是MTS。MTS年薪可观,其制度有防猎头、促文化认同等好处,但也被指有‘粉饰’之嫌。

量子位
推荐文章7

MoltBotClawdbot)之父的20条AI哲学

MoltBotClawdbot)爆火,其开发者分享20条AI哲学,涵盖心态、学习、闭环验证等方面,指出AI改变编程体验,强调系统性思维、prompt技能等重要性,还提及对未来程序员的影响。

AI工程化
推荐文章8

深入理解OpenClaw技术架构与实现原理下)

文章为《深入理解OpenClaw技术架构与实现原理下)》,讲解各系统模块,如SandBox沙箱系统、记忆管理等,还介绍自进化、工作区与路由等机制,最后展望企业级智能体架构和应用方向演进。

阿里云开发者
推荐文章7

大模型的第一性原理:二)信号处理篇

本文从信号处理角度解读大模型原论文,探讨语义向量化原理,分析 Transformer 与 Granger 因果关系。指出大模型输入 Token 语义嵌入是将自然语言处理转化为信号处理问题,向量化与信号处理、信息论联系紧密。

机器之心
算法论文8

Tokenization谢幕?H-Net登场:Mamba作者新作正面硬刚Transformer

「Mamba」作者之一Albert Gu在新Paper提出新技术,实现动态分块机制,嵌入H - Net可替代传统流水线。在多方面实验中,H - Net性能优于基于BPE token的Transformer模型。

PaperAgent
算法论文8

推理速度飙升5倍,苹果提出全新Multi-Token生成框架!

自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架,挖掘其对未来词元“先验知识”,通过多项技术并行预测多词元,微调预训练模型可显著提速且不损输出质量。

PaperAgent
新闻资讯7

北大光华院长最新对谈:未来奖学金可以用 Token

5月12日晚,北大光华管理学院院长田轩与Kimi总裁张予彤就‘AI时代的边界探索与人才机遇’展开对谈,探讨了AI带来的新工作、学生培养、企业管理、人才招聘等问题,张予彤提出诸多独到见解。

特工宇宙