「token效率」共找到 1763 篇相关文章
2K+ star！这款分分钟搭建 AI 知识库的项目，真的绝了！
GitHub上爆火的开源项目PandaWiki，两周揽2K star，是AI大模型驱动的知识库搭建系统。它将AI能力深度融入全流程，有强大富文本编辑等特色，还能灵活部署，适合中小团队和个人开发者。
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
谷歌神秘模型Kingfall泄漏！
近日，谷歌AI模型Kingfall在AI Studio平台短暂开放后意外曝光。它具备多模态处理能力，上下文窗口6.5万个token，有两种模式。生成SVG矢量图能力超Claude 4，身份猜测不断。
推理“刹不住车”？新框架让DeepSeek-R1们告别过度思考，已开源
DeepSeek - R1等推理模型能力增强，但出现过度思考问题，如步骤繁冗、表述拖沓、输出冗长。浙大等团队提出Self - Braking Tuning（SBT）框架，能让模型适时终止推理，在多数据集测试中效果显著。
让AI学着“看菜下碟”！港中大等新框架让推理长度减少90%，准确率反增17%
香港中文大学等研究者提出TON选择性推理框架，使视觉语言模型能自主判断是否推理。该框架有两阶段训练机制，实验显示其让推理长度最多减90%，准确率还提升，有益模型部署。
Adaptive Reasoning Model：Qwen3混合思考->字节AdaCoT->清华AdaThinking
文章介绍三种处理混合思考模式的方法，阿里 Qwen3 通过 SFT 让模型具备思考能力，但需人为控制；字节 AdaCoT 和清华 AdaThinking 让模型自主决定是否思考，分别用多目标优化和受限优化目标训练。
两周 3 万行代码！我们的 7 个 AI “粪堆求生” 最佳编程实践
作者分享开发 AutoDev Workbench 时用 AI 辅助编程的 7 个实践，包括用 DeepResearch 脑暴需求、多工具构建 UI 原型等，还指出要提升 AI 交互效率和代码质量，形成成熟开发方法论。
All In AI的Google I/O 2025还开源了一系列模型，冲~
谷歌CEO称Google IO 2025上，数十年AI研究成果已成为现实。大会亮点多与AI相关，如Gemini 2.5系列模型表现出色，还有Veo 3等。此外，还开源了medgemma、gemma - 3n等模型。
极客说｜Unsloth 的全微调之路：从 Adapter 到 Full Fine-tuning
大语言模型参数多，微调难。Unsloth 原靠支持 Adapter 微调出名，现支持全参数微调，单卡就能搞定大规模模型训练。文章介绍其进化历程、关键技术、工程部署、使用优势及最佳实践。
翁荔最新万字长文：Why We Think
北大校友、前OpenAI华人VP翁荔发布万字长文《Why We Think》，围绕“测试时计算”和“思维链”，探讨提升模型性能的方法，涉及心理学类比、基于Token的思考、分支与编辑等多方面内容。