「模型部署」共找到 8107 篇相关文章
OpenAI自研芯片270天光速成功！谷歌TPU大将主导，老黄一夜大客户变对手
OpenAI发布自研推理加速芯片Jalapeño，与博通和Celestica合作打造，专为大模型优化，9个月就流片。操刀者是前谷歌TPU核心成员Richard Ho，计划2026年底部署。此前谷歌、微软等已自研芯片，英伟达客户变对手。
与Gemini Diffusion共振！首个扩散式「发散思维链」来了
西湖大学齐国君教授团队提出扩散式「发散思维链」，这是面向扩散语言模型的新型推理范式。它与传统思维链不同，能非线性生成，已应用于两种模型，增强后的模型在相关任务上超越现有模型。
对话许华哲：进家的机器人，先做好这10件事
本文是对许华哲的访谈，他离开星海图创办破壳机器人，切入具身智能C端赛道。许华哲阐述选择进家的原因、产品规划，还探讨数据来源、模型规划、强化学习等问题，分享从科学家到创业者的体验。
对噢！为什么LMs就不能直接输出答案+confidence呢？
当前语言模型在复杂问答任务中存在校准退化问题，本文提出RLCR方法，将概率校准融入RL训练目标，重构奖励函数，在多个数据集实验中显著降低校准误差，不损失准确性，为高风险场景AI部署奠基。
AI 应用开发的破局之路：字节跳动 Eino 框架实践
在 InfoQ 举办的 QCon 全球软件开发大会上，字节跳动沈桐介绍 Eino 框架在组件抽象和业务编排的创新实践。该框架以大模型为基础，解决应用开发中节点、信息流转和沉淀框架的问题，还给出开发实例，展望了未来重点方向。
AI 设计9个月就能媲美Blackwell？OpenAI “辣芯”绕开英伟达正面战场，但老黄的GPU大盘不稳了
OpenAI 展示与博通联合打造的定制 AI 芯片 Jalapeño，性能媲美英伟达 Blackwell 或谷歌 TPU。计划年底部署，是多代芯片开发首步。它专为大模型推理设计，设计周期短，成本低，OpenAI 借此扩展全栈能力。
破解遥感目标的形状与尺度难题，PKINet二代推理提速近4倍！
PKINet - v2是改进的遥感目标检测模型，能处理复杂形状和尺度变化问题。它在PKINet基础上升级，统一条带与方形卷积，部署时折叠为单大核。在多数据集上精度和速度提升，可服务多领域，但对特殊目标仍有检测问题。
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。
Meta「分割一切」进入3D时代！图像分割结果直出3D，有遮挡也能复原
Meta MSL实验室发布三维重建模型SAM 3D，其家族的两个新模型能将2D图像转为3D重建模型，性能优异。同时，此前投稿ICLR 2026的SAM 3也亮相，可克服传统模型局限，在多项任务中刷新SOTA。
MoE推理「王炸」组合：昇腾×盘古让推理性能狂飙6-8倍
在通往AGI进程中，MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型，经多方面优化，推理性能提升6 - 8倍。还采用多种策略和算法，在昇腾不同平台展现卓越性能，为大模型落地提供支撑。