「零Token部署」共找到 1617 篇相关文章
Tokenization谢幕？H-Net登场：Mamba作者新作正面硬刚Transformer
「Mamba」作者之一Albert Gu在新Paper提出新技术，实现动态分块机制，嵌入H - Net可替代传统流水线。在多方面实验中，H - Net性能优于基于BPE token的Transformer模型。
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。
北大光华院长最新对谈：未来奖学金可以用 Token 发
5月12日晚，北大光华管理学院院长田轩与Kimi总裁张予彤就‘AI时代的边界探索与人才机遇’展开对谈，探讨了AI带来的新工作、学生培养、企业管理、人才招聘等问题，张予彤提出诸多独到见解。
OpenAI 董事会主席：「按 token 计费」大错特错！市场终将选择「按成果付费」
OpenAI 董事会主席 Bret Taylor 参与访谈，探讨创业者在 AI 浪潮中的机会。他将 AI 市场分为三条赛道，认为基础模型创业难，应用 AI 是生路，长尾 Agent 公司或取代 SaaS，商业模式应转向按成果付费。
GPT-5系统提示词突遭泄露，17803 token曝光OpenAI小心思！
一份全新GPT - 5系统提示词在GitHub泄露，有17803 token。此提示词设计精细，覆盖用户对齐、拟人风格、输出质量等。还展示了通用关键要求、安全对齐等方面内容。
零基础指南：从 Prompt 到上下文工程构建 AI Agent 【万字长】
作者结合培训经历，系统梳理零基础构建 AI Agent 的学习路径，涵盖结构化提示词工程、上下文工程与知识检索、工具函数设计和 Agent 规划等内容，还介绍各环节方法、策略和实践案例。
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，在 GitHub 获近 15K Stars，月均下载超 10 万次，被多家行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享技术、挑战等，6 月 27 - 28 日他将在 AICon 演讲。
刷新世界记录！40B模型+20万亿token，散户组团挑战算力霸权
Nous Research推出Psyche网络，用区块链汇聚全球计算资源，启动40B参数大语言模型Consilience预训练，达20万亿token创纪录。还解决带宽瓶颈等问题，让AI训练去中心化，推动创新与民主化。
腾讯LLM团队：对下一个 Token 预测的深入剖析，多样性 or 精准度？
最新研究证实RL能增强LLM推理，但成效受限预训练token分布。腾讯LLM部把交叉熵重写成单步策略梯度，用超参压熵，为RL打造‘低熵高信号’起点，经实验验证低熵模型优势明显。
解析天花板？TextIn xParse如何为RAG打造「零损耗」知识管道
在AI应用发展中，LLM与RAG系统成核心引擎，但项目落地时模型表现常难达预期，根源在于文档解析质量。TextIn xParse能为RAG打造‘零损耗’知识管道，本文从多方面对其解析能力进行了解读。