Token压缩技术」共找到 3511 篇相关文章

推荐文章7

所谓“氛围编程”,不过是“技术债”的新马甲

本文编译自 Steve Krouse 演讲与博客,指出‘氛围编程’代码即遗留代码、‘技术债’,编程核心是理论构建。还认为工具优于智能体,代码是描述软件的正确媒介,人类大脑在编程中始终是核心。

AI科技大本营
开源动态8

大部分token根本不该重复计算,不止于KVCache

斯坦福研究显示,AI Agent每次调用62%内容重复,现有前缀缓存虽有优化但天花板低,阿里云数据表明多数缓存块利用率低。LMCache将缓存管理独立,解决性能问题,其CacheBlend技术复用缓存,适配多引擎和存储后端。

AI工程化
推荐文章7

技术更新 or 组织重塑,企业如何用好“数据智能”?

InfoQ《极客有约》X AICon 直播栏目邀专家探讨企业数据智能应用。谈及构建数据集、优化检索效率等问题,还分析数据准备挑战、DeepResearch 优势,指出数据智能落地面临组织与技术层面的挑战。

InfoQ
新闻资讯8

AI转型最大的门槛,不是技术,是人

浪潮信息董事长彭震在人工智能+生态大会上提出,AI转型最大门槛是人而非技术。他指出组织力不足影响业务效果,提出Humagent概念。浪潮信息还从文化、组织、流程层面推动转型,愿做客户同行者。

量子位
新闻资讯7

卡帕西Anthropic最新头衔:技术员工(MTS)

卡帕西在Anthropic头衔为技术员工(MTS)引关注,不止他,很多大佬加入Anthropic和OpenAI职级都是MTS。MTS年薪可观,其制度有防猎头、促文化认同等好处,但也被指有‘粉饰’之嫌。

量子位
新闻资讯7

谷歌成立AI基金,为初创公司提供技术、资金

谷歌宣布推出AI Futures Fund,旨在投资运用DeepMind AI工具的初创企业,提供技术、资金支持,如提前接触模型、专家指导、云服务积分和直接投资等,未透露基金规模。

AIGC开放社区
产品应用8

告别JSON冗余:TOON让Token成本降低30-60%

LLM交互用JSON有冗余,成本高、速度慢。TOON格式专为LLM优化,结合YAML和CSV特点,比JSON减少30 - 60%的token消耗,还介绍了特性、上手方法、集成实践和适用场景。

CourseAI
推荐文章7

如果你的大学不提供 Token,应该立即退学

本文站在学生角度探讨 AI 时代大学生学习问题。认为高校在 AI 教育上滞后,不提供 Token 不合理。强调学生应善用 AI,具备问题意识、判断力和品味,还给出了使用 AI 的具体建议。

特工宇宙
新闻资讯7

干掉 .md?兜里 Token 不够,没法和 Karpathy 共情

近日,围绕‘Markdown 是否已过时’讨论升温。Theo Browne 视频阐述‘HTML 优于 Markdown’五大理由并分享实操技巧,虽指出 HTML 有费 Token、版本控制差问题,但仍倾向用 HTML,不过也有开发者质疑。

InfoQ
推荐文章7

无限Token | 搭建一家Agent First公司(一)

作者从单兵模式转向搭建 Agent First 公司,认为无限 Token 是基础设施而非福利。介绍了 Agent First 工作方式,指出成本使人们不敢依赖 AI,给候选人配 Claude Max 降低使用门槛,还分享工作流搭建实例。

AI产品黄叔