「token节省」共找到 710 篇相关文章
85倍速度碾压：苹果开源FastVLM，能在iphone直接运行的视觉语言模型
苹果开源能在 iPhone 上运行的视觉语言模型 FastVLM，代码仓库含 iOS/macOS 演示应用。它速度快，首个 token 输出速度较同类模型提升 85 倍，还兼容主流 LLM，适合边缘设备等场景。
开发边界消失是必然，但 AI 没有替代开发者！对话 Google 全球开发者生态总监 David McLaughlin
文章是对 Google 全球开发者生态总监 David McLaughlin 的访谈。谈到 AI 会让开发边界消失，开发者应转变思维，AI 增强而非替代开发者，还探讨了谷歌工具策略、开发者出海问题、Token 管理等。
OpenAI主攻速度的第一个模型来了：GPT‑5.3‑Codex‑Spark
OpenAI发布GPT-5.3-Codex-Spark，是GPT-5.3-Codex轻量级版本，也是首个为实时编程设计的模型。亮点是速度快，推理超每秒1000 token，已向ChatGPT Pro用户开放，后续规划融合两种工作模式。
Anthropic发布循环设计指南：权威拆解当下最火的AI新范式loop
Claude Code团队明确loop定义，将其分四大类，给出选择循环及控制Token消耗的实用指南，还介绍保持代码质量方法，最后总结各循环适用场景、建议功能，指导用户开始使用。
昇腾+鲲鹏联手上大招！华为爆改MoE训练，吞吐再飙升20%，内存省70%
最近华为在MoE训练系统给出算子和内存优化新方案，三大核心算子全面提速，系统吞吐再提20%，Selective R/S实现内存节省70%，为大规模MoE模型训练扫清障碍。
DeepSeek开源新模型，提出上下文光学压缩：LLM的新记忆方式
DeepSeek开源OCR模型，探索用多少视觉信息让LLM理解文本。实验表明1000字文档约需100个vision tokens，压缩比10倍、准确率97%。还提出模拟人类遗忘等想法，有多种应用场景，且完全开源。
递归神经网络的复兴：Mixture-of-Recursions
Google DeepMind研究者设计的语言模型，能判断关键单词并进行深度递归计算，通过轻量级“路由器”节省计算资源，在同等训练成本下表现显著优于传统模型，文中还提及其他解决动态算力分配问题的思路。
硅谷豪赌算力烧到停电，中国团队反向出击！这一刀，直接砍碎Scaling Law
硅谷陷入算力战争，OpenAI、马斯克等豪赌Scaling。但Anthropic指出模型大、算力多不一定聪明。Yuan 3.0 Flash登场，用RAPO+RIRM解决过度思考，降低推理token，在多模态任务表现出色，引发开发者关注。
刚刚，DeepSeek官宣更新了！突然「变冷」冲爆热搜
DeepSeek官宣网页版、APP更新，支持100k token上下文，但更新后性格变冷淡引争议。官方称是效率优先和边界意识所致。此外，传言V4将发布，编程实力或超Claude、ChatGPT等。
马斯克的最快AI模型来了
xAI发布Grok 4 Fast，生成速度每秒75个token，比标准版快10倍。网友实测其解题、问答速度惊人，但也有准确性问题。它为求速度做了妥协，适合追求即时结果的用户。