Token设计」共找到 1911 篇相关文章

开源动态7

任何错误只犯一次:TencentDB Agent Memory 的团队记忆实践

文章聚焦 TencentDB Agent Memory 的团队记忆实践,从组织协作现状出发,阐述其原理、结构、构建方法,通过多方面测试验证其价值,提炼出设计原则,指出其核心是治理系统,目标是提升协作带宽。

腾讯技术工程
新闻资讯8

百度想明白了:旧供给到达极限了

当下企业应用AI时,Token成本高、推理效率低问题凸显。百度Create大会释放旧供给达极限信号,推出新全栈AI云,含Agent Infra和AI Infra两层架构,多个场景应用初显成效。

InfoQ
产品应用8

我用 Moxt,开了一家 AI 公司

作者体验 Moxt 后,用其创建 AI 团队做炒股分析、开发产品、设计桌游。Moxt 是 AI 原生协作平台,AI 同事有持久记忆,Workspace 灵活。个人和团队用它能提升效率,实现与 AI 深度共事。

特工宇宙
开源动态7

在 Cache-DiT 框架下实现原生 Serving功能

Cache-DiT 是唯品会开源的 PyTorch 原生 DiT 推理加速引擎,此前聚焦离线推理。现实现完整 Serving 功能,支持单卡与分布式推理模式。文章介绍其实现过程、借鉴 SGLang 的设计,还总结踩坑及使用方法。

GiantPandaLLM
算法论文8

NeurIPS 2025 Spotlight | GeoSVR:稀疏体素的新潜力——超越3DGS系列的高精度三维表面重建

计算机视觉中表面重建难题待解,现有方法有瓶颈。北航等团队提出 GeoSVR 框架,围绕几何约束与表面正则化设计,在多数据集超现有方法,兼顾精度、完整性与效率,为多领域提供支持。

机器之心
新闻资讯7

Airbnb Istio 升级 14 次零宕机!Google、Uber、Netflix 都在借鉴

Airbnb engineering发布报告,介绍在数万Pod和数千VM上执行Istio升级且零宕机的方法。其设计升级流水线,用双版本部署和金丝雀发布策略等。还对比了Netflix、LinkedIn等公司的升级方式。

InfoQ
开源动态8

智谱发布GLM 4.5,不仅开源模型还把训练框架也开源了

智谱AI发布GLM 4.5,不仅开源模型,还开源整套后训练基础设施。模型规格亮眼,性能也超越qwen 235b。其开源的训练框架slime专为强化学习扩展设计,完整工具链支持多种模型。

AI工程化
开源动态8

DeepSeek开源的不仅仅是个新OCR模型。。。

DeepSeek开源3B参数的新OCR模型,重新思考AI处理长文本方式,用视觉token压缩文本信息。核心组件有DeepEncoder和DeepSeek3B - MoE解码器,实验效果好,成本降低,还解决了一些算法和工程问题。

AI工程化
产品应用7

Fable 5被网友薅出省钱神招!最高减70%!

网友发现把Fable 5上下文转成图片,让模型通过OCR读取,token输入成本最多省70%。方法pxpipe在GitHub获3000+STAR,本质是本地代理,还引出谷歌老论文及DeepSeek - OCR相关技术。

量子位
推荐文章7

我的 2025 总结:当 AI 开始释放创造力,工程师如何重新站位

2025 年 AI 开始释放创造力,重新定义知识工作。作者在编程上向创造性工作倾斜,设计适配 AI 的架构、落地 DSL;写作上 AI 提升生产力但削弱创作欲。2026 年需探索新竞争力,实现角色转变。

phodal