「低token高压缩」共找到 1793 篇相关文章

新闻资讯7

英伟达半数打工人身家过亿!难怪离职率低

一份调查显示英伟达约半数员工身家超2500万美元,超78%超百万美元。管理层富翁数字更惊人,公司离职率仅3.7%。其造富源于员工持股和限制性股票计划,近期又宣布芯片量产。

量子位
开源动态7

iPhone本地跑Gemma 4火了,0 token时代还有多远?

谷歌开源新模型Gemma 4,部分小型号可在手机端本地运行,速度惊人,还有128k上下文窗口。但在处理复杂任务时表现欠佳。未来端侧模型有望蚕食云端高频简单任务,将冲击现有AI商业模式。

机器之心
产品应用8

重磅!iPhone 端侧可部署 Gemma 4 了!完全零token消耗!

PhoneClaw 是运行在 iPhone 的本地 AI Agent,可离线运行 Google Gemma 4。它支持多模态,有隐私保障和灵活模型管理。文中介绍使用方法、自定义 Skill 方式、常见问题,还提及后续扩展计划。

GitHubStore
算法论文8

钉钉DeepResearch, 0.008元/1k Token击穿地板价

阿里为7.5亿钉钉用户推出Dingtalk - DeepResearch,解决企业办公AI化痛点。系统采用“三横一纵”架构,有多阶段强化学习等三种解法及DingAutoEvaluator纵向飞轮,实现模型自进化、自纠错。

CourseAI
开源动态8

腾讯Hy3正式版亮相,幻觉率更低,Agent能力更强

7月6日腾讯Hy3正式版上线并开源,总参数量295B。它幻觉率从12.5%降至5.4%,Agent能力大幅提升,在生产力场景表现出色,基准测试结果良好,价格有优势,腾讯内部9条线已接入。

AIGC开放社区
推荐文章8

Anthropic发布AI原生创业秘籍:手把手教你怎么烧Token创业

Anthropic发布36页AI原生初创企业操作手册,将创业精准拆解为四阶段,剖析如何用Claude Code构建商业护城河。介绍各阶段任务、退出条件、常遇问题及应对策略,强调创始人判断能力重要性。

AIGC开放社区
产品应用8

不拼GPU!中兴扔出AI超节点,把token价格打下来

在万亿级大模型时代,传统‘芯片堆砌’方式面临通信开销剧增等痛点。中兴通讯推出超节点技术,从系统级协同架构出发,通过六大维度创新,绕开单GPU芯片瓶颈,重构AI算力基础设施,推动行业向开放、融合发展。

新智元
开源动态8

Context Mode:为你的AI开发工具节省98%的上下文token

开发者分享开源项目Context Mode,它在Claude Code和工具输出间加中间层,采用沙箱隔离和精准检索策略,能节省98%上下文空间,与Cloudflare Code Mode互补,可提升AI从业者工作效率。

AI工程化
算法论文8

KDD 2025 Best Paper Runner-Up | EI-BERT:超紧凑语言模型压缩框架

香港城市大学王茂林等提出 EI - BERT 框架,解决移动设备部署 NLU 模型难题。通过硬令牌剪枝、交叉蒸馏、模块化量化,实现 99.5% 压缩率。在多任务中表现出色,已在支付宝大规模应用。

机器之心
算法论文8

从视觉压缩,到视觉记忆:MonkeyOCRv2以重建保留文档页面证据

文档视觉编码器对LLM理解和推理很重要。MonkeyOCRv2提出‘重建即文档视觉记忆’,通过多组实验验证其有效性,还发布MonkeyDoc v2数据集,推动公平比较的研究文化。

机器之心