低token高压缩」共找到 1717 篇相关文章

推荐文章8

Anthropic发布循环设计指南:权威拆解当下最火的AI新范式loop

Claude Code团队明确loop定义,将其分四大类,给出选择循环及控制Token消耗的实用指南,还介绍保持代码质量方法,最后总结各循环适用场景、建议功能,指导用户开始使用。

AI寒武纪
产品应用8

Claude Code 的"懒加载"更新:AI 终于学会了"随叫随到"

Claude Code推出Tool Search功能,解决AI工具生态困境。它采用“懒加载”,按需调用工具,节省大量token。这反映AI工具生态从“能用就行”走向“精打细算”,对用户和开发者均有益。

宝玉AI
算法论文7

DeepSeek-OCR是「长文本理解」未来方向?中科院新基准VTCBench给出答案

DeepSeek - OCR的VTC技术可实现高压缩率,降长文本处理成本。但视觉语言模型能否理解压缩信息存疑,中科院等推出VTCBench评估,测试模型认知极限,还推出VTCBench - Wild检测鲁棒性。

机器之心
算法论文8

腾讯混元TurboS技术报告首次全公开:560B参数混合Mamba架构,自适应长短链融合

腾讯公开混元TurboS技术报告,该模型是超大型Hybrid Transformer - Mamba架构MoE模型,融合Mamba与Transformer架构优势,有自适应长短思维链机制,激活参数56B。在多评测中表现佳,推理成本

AI前线
开源动态7

缓存命中率99.93%!DeepSeek最适合的Harness来了,GitHub狂揽8.6万Star

DeepSeek官方版Harness未出,民间开源编程Agent「Pi」先火。它适配DeepSeek,让其缓存不命中率至0.03%,调用成本大降。Composio测试显示Pi完成任务平均成本最。同时,DeepSeek正组建团队做官方Harness。

量子位
开源动态7

有人把巴菲特芒格炼化成Agent,然后开源了…

AI Hedge Fund项目将12位世界级投资大佬“炼化”成Agent,可实时分析股票、完善交易策略,还内置回测模块。它兼容13种大模型,部署门槛,开源后获高星。不过多数框架未实盘,投资有风险。

量子位
新闻资讯7

Anthropic新模型偷「吃瓜」!最强Fable 5爆冷

Anthropic提前曝光两个新模型claude-mashmallow-eap和claude-melon-eap,早期实测Marshmallow更佳。此前上线的最强Fable 5爆冷,企业调用少,营收,其弟Opus 5反而胜出,开源模型也在抢占份额。

新智元
开源动态8

硅谷豪赌算力烧到停电,中国团队反向出击!这一刀,直接砍碎Scaling Law

硅谷陷入算力战争,OpenAI、马斯克等豪赌Scaling。但Anthropic指出模型大、算力多不一定聪明。Yuan 3.0 Flash登场,用RAPO+RIRM解决过度思考,降推理token,在多模态任务表现出色,引发开发者关注。

新智元
算法论文7

The Batch: 899 | 更划算的推理

研究人员提出 Delethink 强化学习方法,训练大模型定期截断推理 token 至固定最大数量,以限制处理长思维链成本。经测试该模型在多方面超基线,且缓解计算成本限制,为长上下文推理提供路径。

DeeplearningAI
新闻资讯7

叫板英伟达RTX 5090!GPU初创公司做出13倍路径追踪性能的怪兽显卡

芯片初创公司Bolt Graphics首款GPU模组Zeus 4C,路径追踪性能达RTX 5090的13倍。但它不适合游戏场景,更擅长功耗高精度图形渲染,不过测试、应用、价格目前都是未知数。

量子位