「Token成本」共找到 1986 篇相关文章
Transformer可以改装成Mamba了：苹果把推理成本直接打成线性
苹果将Transformer改造成Mamba，采用‘两步走’策略，先造中间形态，再转成Mamba，避免性能崩塌。实验显示，新方法性能几乎没掉，成本逻辑改变，为模型降本重构提供新可能。
成本仅0.3美元，耗时26分钟！CudaForge：颠覆性低成本CUDA优化框架
CUDA代码性能对模型训练与推理重要，但手动优化门槛高。明尼苏达大学团队提出CudaForge，是低成本多智能体CUDA Kernel生成与优化工作流，实验效果好，成本低且具通用性。
神秘模型「大象」：仅100B拿下SOTA，Token效率超高！
神秘模型「大象」面纱揭开，它出自蚂蚁Inclusion AI团队，仅100B大小，是同规模SOTA且省Token。经多方面实测及权威榜单评测，它快、准、省，能胜任多数日常工作，但也有不擅长的领域。
Token消耗暴降80%，Cloudflare让服务器原生支持Markdown：OpenClaw要笑醒了
Cloudflare发布Markdown for Agents功能，让Web服务器可向AI Agent投喂Markdown数据，抛弃臃肿HTML，Token消耗降80%，还引入内容信号机制，有手动挡工具，功能处Beta阶段，可免费启用。
Anthropic发布Fable 5.1：科研、编程能力翻倍，成本最高降45%
当地时间9月1日，Anthropic推出Claude Fable 5.1和Claude Mythos 5.1。Fable 5.1科研、编程能力翻倍，成本最高降45%，还能解决实际问题，此次模型竞争转向多方面综合较量。
DeepSeek Harness规模化踩坑实录：耗时、成本、失败到底该怎么查
Agent 进入日常研发流程后，使用方关注耗时、Token 消耗和失败回溯。DeepSeek Harness（DSH）是开源 Agent 框架，腾讯云 Agent 可观测提供 DSH 采集插件，构成全景可观测方案，还介绍接入实践与其他能力。
谷歌杀疯！百万token神器免费开源，Claude和Codex都顶不住了？
谷歌开源免费AI编程工具Gemini CLI，权限拉满，有百万token上下文、千次调用额度，打通VS Code与终端。它与OpenAI、Anthropic竞争，功能不止写代码，还支持多通用任务，谷歌这次来真的！
成本降九成，准确率100%！MIT反常识架构挑战硅谷信仰
慕尼黑工业大学等研究者指出企业AI落地问题源于数据乱。RUBICON架构用AQL查询语言，把操作权交用户，让LLM在精确范围工作。测试中它准确率100%，成本低，优于现有智能体AI方案。
Discrete Tokenization：多模态大模型的关键基石，首个系统化综述发布
近年来，人们关注将LLM能力扩展至非文本模态，Discrete Tokenization成关键方案。但现有研究缺系统总结，香港科技大学等团队发布首个相关系统化综述，梳理技术脉络、方法及挑战，给出未来研究方向。
10.2k星！Firecrawl开源PDF解析神器，大幅降低OCR成本
处理PDF时，若全用OCR成本和延迟会增加，直接提取文本又易遇乱序、乱码等问题。Firecrawl开源的pdf - inspector工具能智能区分扫描版和文本版PDF，按需使用OCR，精准处理。