精细化Token管理」共找到 1205 篇相关文章

产品应用8

把抖音的研发管理搬到车企,跑得动吗?

飞书项目在深圳新品发布会推出整车研发解决方案,首次明确‘平台化’定位并公开产品架构。其方案覆盖架构整合等四场景,还进行技术升级,如轻应用、Project 4K 计划等,已获车企实践验证。

InfoQ
算法论文8

推理速度飙升5倍,苹果提出全新Multi-Token生成框架!

自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架,挖掘其对未来词元“先验知识”,通过多项技术并行预测多词元,微调预训练模型可显著提速且不损输出质量。

PaperAgent
新闻资讯7

OpenAI 董事会主席:「按 token 计费」大错特错!市场终将选择「按成果付费」

OpenAI 董事会主席 Bret Taylor 参与访谈,探讨创业者在 AI 浪潮中的机会。他将 AI 市场分为三条赛道,认为基础模型创业难,应用 AI 是生路,长尾 Agent 公司或取代 SaaS,商业模式应转向按成果付费。

机器之心
算法论文8

长程 Agent 越跑越乱?ContextPilot 用细粒度 RL 教会模型主动管理上下文

长程 Agent 推理时,传统方法使上下文臃肿、推理成本高。清华、腾讯等团队提出 ContextPilot 框架,扩展管理工具集、采用新采样和信用分配方法。实验显示其用短上下文获高分,降低推理开销。

深度学习自然语言处理
开源动态8

刷新世界记录!40B模型+20万亿token,散户组团挑战算力霸权

Nous Research推出Psyche网络,用区块链汇聚全球计算资源,启动40B参数大语言模型Consilience预训练,达20万亿token创纪录。还解决带宽瓶颈等问题,让AI训练去中心化,推动创新与民主化。

新智元
算法论文7

腾讯LLM团队:对下一个 Token 预测的深入剖析,多样性 or 精准度?

最新研究证实RL能增强LLM推理,但成效受限预训练token分布。腾讯LLM部把交叉熵重写成单步策略梯度,用超参压熵,为RL打造‘低熵高信号’起点,经实验验证低熵模型优势明显。

PaperAgent
开源动态8

狂涨34.6K star!!再见了Salesforce,开源CRM新标杆,颜值高、功能全,太6了!

传统CRM系统价格高、生态封闭、操作复杂,而开源项目`Twenty`致力于打造现代化、灵活且高度可定制的平台。它功能强大,如可视化流程管理、强大的客户管理等,还提供多种安装方式。

开源先锋
开源动态8

少 61% Token、多10倍成功率,这个终端 AI 编程代理火了!

现在多数AI编程工具问题多,而在Github上火爆的`oh-my-pi`是运行在终端的AI编程代理,有哈希锚定编辑等实用功能,支持多模型,经基准测试效果好,还能解决实际开发痛点。

开源先锋
新闻资讯8

100万亿Token看懵硅谷!全球一半算力写代码,另一半在「搞颜色」 ?

OpenRouter和a16z联合发布报告,基于100万亿Token实证数据揭秘2025年AI发展。开源模型流量占比达30%,推理模型成主流,编程和角色扮演是主要使用场景,亚洲付费使用量翻倍,中文成全球第二大交互语言。

新智元
开源动态8

MemOS:一种用于 AI 应用的记忆操作系统

大型语言模型缺乏记忆管理系统,限制其发展。MemTensor与高校联合开源MemOS,它将记忆视为可管理资源,有三层架构,系统化三种记忆类型。评估显示其在推理、检索、加速等方面表现优异。

PaperAgent