「模型部署」共找到 8107 篇相关文章
又一推理新范式：将LLM自身视作「改进操作符」，突破长思维链极限
Meta等机构研究者将LLM视为「思维」改进操作符，探究并行 - 蒸馏 - 精炼（PDR）推理方法。实验显示，PDR在数学任务中提升准确率，还训练8B模型让推理方法更适配，减少训练与部署的不匹配。
vLLM Ascend超越MindIE？ 昇腾推理Qwen3与DeepSeek R1 Distill性能实测
国内开发者在昇腾NPU上进行大模型推理面临挑战，华为MindIE推理引擎使用门槛高。昇腾联合vLLM社区推出vLLM Ascend插件。本文用GPUStack平台实测其与MindIE性能差异，得出两者在不同场景各有优势的结论。
具身智能中的 VLA 技术及其应用
文章围绕具身智能中 VLA 技术展开，介绍其现状、挑战、架构、数据方案及部署等内容。指出 VLA 虽推动具身智能发展，但面临数据、模型结构等挑战，还探讨了不同架构优劣及未来探索方向。
所有人看见了「大晓速度」，但真正值钱的是它背后的这套系统
过去一年大晓机器人在具身智能行业成果显著，首创研发范式和数据采集方案，推出世界模型并实现端侧部署，其行业方案进入真实场景。它从具身第一性原理出发，让信息低成本入模转化为生产力。
Demo的高估值时代结束了，具身智能开始按生产力重新算账
WAIC后具身智能进入冷静期，融资热但投资人关注点转变。过去‘PPT估值、Demo定价’，如今按生产力算账。分析了高估值由来、发展路径类似大模型，还给出衡量企业的四把尺子，并以酷哇科技为例说明。
刚刚，微软全新一代自研AI芯片Maia 200问世
微软原定于 2025 年发布的下一代 AI 芯片 Maia 200 问世。它基于台积电 3 纳米工艺，性能强、能效高，是异构 AI 基础设施重要部分，将为多个大模型提供支持，已部署在美国中部数据中心区域。
斩获7.4K标星！NotebookLM的终极开源平替，私有化多模态播客一键生成！
Google的Notebook LM虽能上传资料一键生成播客总结，但有数据隐私等问题。近期GitHub上的Open Notebook获7.4K标星，它复制并超越前者功能，强调数据主权，有多项亮点且部署灵活。
重磅！Anthropic又一个平台级产品炸场:Harness难题一次性解决，把Agent宠物变成牲口
Anthropic推出Claude Managed Agents，一套为云端大规模构建和部署智能体设计的API套件，已在Claude Platform上线公测。它全托管基础设施，专为Claude模型优化，多家企业已在生产环境使用，还同步发布工程博客解释架构设计思路。
秋招超强助攻：零基础1小时上手GPT微调！全流程教程免费开源
新一年秋招季，岗位对AI能力要求提升。OpenAI发布新开源大模型GPT - OSS，博主Lorentz Yeung开源本地部署和微调训练GPT - OSS的教程，助零基础者上手，还介绍环境搭建、代码和训练前后效果对比。
全网爆火的DeepSeek「UE8M0 FP8」，原来英伟达早已支持
NVIDIA PTX ISA文档早有.ue8m0数据类型，UE8M0 fp8并非DeepSeek独创。从PTX 8.0/9.0起，NVIDIA在ISA级别支持.ue8m0，H100、RTX 40系列等都有相关支持，DeepSeek是将其提升到模型层面。