「Token调用量」共找到 1509 篇相关文章
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。
北大光华院长最新对谈：未来奖学金可以用 Token 发
5月12日晚，北大光华管理学院院长田轩与Kimi总裁张予彤就‘AI时代的边界探索与人才机遇’展开对谈，探讨了AI带来的新工作、学生培养、企业管理、人才招聘等问题，张予彤提出诸多独到见解。
OpenAI 董事会主席：「按 token 计费」大错特错！市场终将选择「按成果付费」
OpenAI 董事会主席 Bret Taylor 参与访谈，探讨创业者在 AI 浪潮中的机会。他将 AI 市场分为三条赛道，认为基础模型创业难，应用 AI 是生路，长尾 Agent 公司或取代 SaaS，商业模式应转向按成果付费。
GPT-5系统提示词突遭泄露，17803 token曝光OpenAI小心思！
一份全新GPT - 5系统提示词在GitHub泄露，有17803 token。此提示词设计精细，覆盖用户对齐、拟人风格、输出质量等。还展示了通用关键要求、安全对齐等方面内容。
0.005%参数量超越SOTA！提升模型能力无需庞大奖励模型
上海交通大学等校联合团队提出轻量级奖励模型SWIFT，利用大模型隐藏状态线性特征，仅训练极小线性层，在推理任务中超越主流奖励模型，实现计算效率与准确率双提升，且在多领域表现出色。
轻量高效，即插即用：Video-RAG为长视频理解带来新范式
现有视觉语言模型处理长视频面临诸多难题，厦门大学等联合提出轻量高效、无需微调的 Video-RAG 框架，采用多模态辅助文本检索增强生成，解决长视频理解问题，适用于多场景。
刷新世界记录！40B模型+20万亿token，散户组团挑战算力霸权
Nous Research推出Psyche网络，用区块链汇聚全球计算资源，启动40B参数大语言模型Consilience预训练，达20万亿token创纪录。还解决带宽瓶颈等问题，让AI训练去中心化，推动创新与民主化。
腾讯LLM团队：对下一个 Token 预测的深入剖析，多样性 or 精准度？
最新研究证实RL能增强LLM推理，但成效受限预训练token分布。腾讯LLM部把交叉熵重写成单步策略梯度，用超参压熵，为RL打造‘低熵高信号’起点，经实验验证低熵模型优势明显。
面壁小钢炮 VoxCPM-TTS：开源端到端 TTS，轻量高效低延迟
面壁提出基于扩散自回归建模的端到端语音生成模型 VoxCPM，构建于 MiniCPM - 4 之上。它克服传统离散 token 方法缺陷，实现语义与声学特征解耦，有上下文感知语音生成和零样本语音克隆能力，低延迟。
少 61% Token、多10倍成功率，这个终端 AI 编程代理火了！
现在多数AI编程工具问题多，而在Github上火爆的`oh-my-pi`是运行在终端的AI编程代理，有哈希锚定编辑等实用功能，支持多模型，经基准测试效果好，还能解决实际开发痛点。