「模型token」共找到 7982 篇相关文章
重磅！iPhone 端侧可部署 Gemma 4 了！完全零token消耗！
PhoneClaw 是运行在 iPhone 的本地 AI Agent，可离线运行 Google Gemma 4。它支持多模态，有隐私保障和灵活模型管理。文中介绍使用方法、自定义 Skill 方式、常见问题，还提及后续扩展计划。
大模型进入研发体系后，我们看到了这些变化
InfoQ《极客有约》X AICon 直播邀请同程、网易、百度工程师探讨大模型入研发体系的变化。指出其在提效、协作、分工上作用大，还分析了适用场景、工程师收益类型及核心竞争力等，也提及效率评估、代码生成等问题。
大模型「越用越快」！SpeedupLLM首次验证，大降56%推理预算
Emory大学研究者提出SpeedupLLM框架，利用动态计算资源分配和记忆机制，使LLM处理相似任务时推理成本降56%、准确率提升，论文系统性验证了LLM“越用越快”，为AI模型发展提供新思路。
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
Tokenization谢幕？H-Net登场：Mamba作者新作正面硬刚Transformer
「Mamba」作者之一Albert Gu在新Paper提出新技术，实现动态分块机制，嵌入H - Net可替代传统流水线。在多方面实验中，H - Net性能优于基于BPE token的Transformer模型。
微软：DeepSeek-R1等推理模型循环的原因找到了
前几天，DeepSeek - R1论文更新，披露诸多细节。重点是推理模型在低温/贪心解码下易循环，根源是学得不对，如风险规避式复读、时序相关错误复读，还给出解决方案。
腾讯重磅开源！端到端视频音效生成模型HunyuanVideo-Foley
腾讯混元正式开源端到端视频音效生成模型 HunyuanVideo-Foley，适用于多场景。它采用新型框架结合 REPA 策略，有三大核心优势，能适配多种场景，抑制底噪，保证音频保真度。
最强Claude模型提前曝光！附带Anthropic三千份保密档案在线裸奔
向来标榜安全的Claude因权限配置失误，新模型Mythos提前曝光，还泄露3000份保密档案。Mythos比Opus 4.6更强，公司虽在测试但因安全风险限制发布，也有人质疑信息真实性。
北大开源统一世界模型框架：多类合成推理任务一套搞定
世界模型研究中，不同任务存在接口不统一等问题。北大DCAI课题组联合多方推出OpenWorldLib推理框架，整合多模态能力，构建标准化接口体系，在多任务上评估效果良好，降低研发门槛。
用 Docker 跑大模型训练，Unsloth 解决了环境配置难题
Unsloth AI 发布 Docker 镜像版本，解决本地训练大模型环境配置难题。拉镜像就能训练，依赖和示例 notebook 都打包好。使用简单，不过有暂不支持 Mac 系统等限制，单卡 NVIDIA GPU 场景较适用。