Token压缩技术」共找到 3511 篇相关文章

推荐文章7

AI窗口期只剩3-4年,98%的企业却高估了自身的技术成熟度

麻省理工学院报告显示,企业级AI试点仅约5%进入生产环节并产生回报。多数企业高估自身AI成熟度,落地难源于技术与组织发展速度不匹配。企业需系统重构,窗口期只剩3 - 4年。

AI前线
新闻资讯8

豆包19亿次互动背后的技术真相:春晚级体验是如何炼成的?

2026 年春晚 AI 元素亮眼,豆包 AI 互动达 19 亿次。火山引擎作为独家 AI 云合作伙伴,用智能视频云等技术打造节目效果,解决视频画质、空间逻辑、机器人互动延迟等难题,还保障全民互动和实时字幕。

InfoQ
新闻资讯7

3月26日,在“硬件硅谷”深圳,这场具身智能技术沙龙邀您解锁行业实战法则

2026 年具身智能成热议焦点,但面临模型不成熟等痛点。机器之心联合相关部门 3 月 26 日在深圳龙岗办技术沙龙,有前沿论剑、成果展示、供需对接三大亮点,邀各界共筑具身智能生态。

机器之心
新闻资讯7

“如果你不用更多Token,就永远逃不出底层”:AI竞赛开始变成资源战争

文章围绕AI竞赛中资源分配问题展开,以SemiAnalysis创始人Dylan Patel经历为例,揭示Token成本疯涨、需求远超供给,介绍Anthropic模型优势,探讨具身智能成新需求点,分析竞争格局及供应链瓶颈,还预警反AI抗议。

InfoQ
新闻资讯8

开发者冲爆了!全球前十AI Lab无限免费,一周烧出3.12万亿Token

6月1日,全球模型榜单前十的Agnes AI无限期免费开放旗下核心全模态模型API,引发开发者热情。两周后周调用量达3.12万亿Token,本周还将升级,周五补齐语音全模态链路,开源社区也围绕其开展诸多项目。

新智元
产品应用8

Claude Code 省 Token 指南:慎用 1M 上下文,不开新会话或者总是开新会话都不对

文章聚焦Claude Code省Token问题,分析配额消耗快的原因,介绍提示缓存机制,给出省钱策略、操作规则,还提及委派工作及澄清误解,强调让缓存多命中、上下文少装无关内容。

宝玉AI
推荐文章8

linux.do:一个被严重低估的中文技术社区,国内懂的人都在偷偷用

本文介绍了中文技术社区 linux.do,它上线两年多,虽访问量已追上老牌社区 V2EX,但很多人不知其存在。其核心围绕 ChatGPT 和大模型,有一手信息、开源协作氛围和活跃管理团队,还给出注册及避坑建议。

AI Reading Hub
算法论文7

上交大和辉羲把LLM刻进ROM!推理性能冲2万token/s,GPU时代终结?

硅谷Taalas将大模型‘物理焊死’进芯片引关注,而上海交大、辉羲智能与微软亚洲研究院团队用ROM+SRAM异构架构,将端侧LLM推理速度推至20,000 tokens/s。介绍了ROMA和TOM架构优势及应用场景。

新智元
开源动态8

2.9K Star!这个工具让 Agent 查代码快了 200 倍!节省 98% Token 消耗!

当下,Agent 在代码工作流应用广泛,但在大型代码库搜索时存在精准性、Token 效率和速度问题。Semble 是 MinishLab 团队开发的面向 Agent 的代码搜索工具,能解决上述问题,还具备多方面亮点,安装和使用也简单。

开源星探
算法论文8

1个Token测出模型降级调包!成本砍到千分之一,API供应商的小伎俩全曝光了

法国研究人员开发新检测技术,能识别云端模型隐秘变动。对数概率追踪用于灰盒环境,成本仅传统千分之一;黑盒边界输入追踪用于黑盒环境,成本为先进方案1/30。这些工具让API供应商“调包”行为现形。

量子位