「生产级部署」共找到 1763 篇相关文章
ART：构建可靠智能体的强化学习新框架
现有AI智能体在真实场景表现不稳定，阻碍其应用走向生产。ART开源强化学习框架诞生，通过分离“前端”与“后端”、兼容OpenAI推理端点等创新化解困境，还给出使用方法，在案例中展现强大效能与经济性。
机器人的「GPT时刻」来了？丰田研究院悄悄做了一场最严谨的VLA验证实验
丰田研究院（TRI）团队研究大型行为模型（LBM），在近1700小时机器人数据上训练并大量部署评估。发现LBM性能提升显著，预训练小数据量也能带来增益，预示机器人通用大模型或到来。
Qwen3-Embedding 全揭秘：从技术到服务，打造高效AI产品的关键路径
文章全面揭秘 Qwen3-Embedding，介绍其核心原理、优势、应用场景。还给出在 PAI 和百炼平台的使用方法，含部署、推理、微调等。通过对比实验，凸显其低延迟、低成本特点，未来将成语义理解核心设施。
「有望成为Transformer杀手」，谷歌DeepMind新架构MoR实现两倍推理速度
谷歌DeepMind发布新架构MoR，有望成Transformer杀手。它统一实现参数共享、自适应计算，兼顾性能与效率。实验显示其推理吞吐量提升，降低计算需求，但能否取代Transformer存疑。
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，探讨大模型端侧部署难题。团队自研推理框架，实现180 tokens/s推理速度，采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。
华为 | MoE推理「王炸」组合：昇腾原生盘古推理，性能狂飙6-8倍！
华为团队推出昇腾平台原生Pangu Pro MoE 72B模型，经系统级软硬协同等优化，推理性能提升6 - 8倍。还提出分层混合并行等策略，打造融合算子，设计推理算法，在昇腾不同平台展现卓越性能。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
刚刚，新版DeepSeek-R1正式开源！直逼o3编程强到离谱，一手实测来了
临近端午假期，新版DeepSeek - R1凌晨正式开源，模型权重已上传到HuggingFace。其性能几乎与o4 - mini（Medium）相当，编程实测超越Claude 4 Sonnet。有多项更新亮点，经实测性能获“史诗级”加强。
80亿美元押注Agent！全球第一CRM收购Informatica
昨晚，全球第一CRM平台Salesforce宣布以80亿美元全资收购Informatica，增强其数据基础，利于部署AI Agent。Salesforce高管认为二者结合能打造全面数据平台。Salesforce早布局Agent，其自研平台Agentforce应用效果显著。
H20之后，英伟达全新特供版GPU曝光！单GPU售价低至6500美元
出口管制让英伟达在中国AI芯片市场份额从95%跌至50%。黄仁勋将推出‘阉割版’Blackwell GPU，定价6500 - 8000美元，最早6月量产。还在开发另一款同架构芯片，9月生产。此次尝试结果待察。