「PD分离推理」共找到 2099 篇相关文章
Day0迁移、一键部署，华为开源的昇思MindSpore成为大模型开发的“万能钥匙”
在大模型无法一统天下的背景下，开发者面临在一个框架、生态体验众多主流大模型和AI技术的难题。华为开源的昇思MindSpore可实现训练Day0迁移、推理一键部署，还介绍了其相关技术和实测效果。
刚刚，OpenAI新Transformer火了！Astra架构首次曝光
OpenAI下一代Astra采用「循环深度」推理方法，思考Token减少但性能提升，不过其思考过程难监控。此前业界已对「循环Transformer」有研究，该架构适合数学编程任务，Astra实力获验证，GPT - 6或即将发布。
商汤SenseNova U1深度拆解，原生统一架构终结缝合时代
文章深度拆解商汤科技开源的新一代模型「日日新 SenseNova U1」，介绍其基于 NEO - Unify 原生统一架构，在数据、训练与推理深度协同，多维度测试成绩亮眼，代表多模态从拼接走向原生建模新方向。
开源即登榜！登顶全球前十AI编程智能体，UCL初创团队开源Prometheus
UCL初创团队EuniAI开源AI软件智能体Prometheus，在SWE - bench Verified上Pass@1达71.2%，成绩入官方主榜。它有图结构推理设计，能理解代码，成本低，官网有Demo展示其工程化能力。
Claude Opus 4.1火速发布！坐稳编程之王，官方：马上还有大更新
Claude Opus 4.1正式发布，编程性能超Claude Opus 4及竞品，拿下SOTA。在Agent任务和推理方面升级，定价不变。官方将在几周内大规模改进。Anthropic借客户背书，暗秀关系，文风受开发者喜爱。
0.5B以小搏大拿下端侧模型新SOTA：4090可跑，长文本处理5倍常规加速丨清华&面壁开源
清华大学和面壁智能团队开源MiniCPM 4，有8B、0.5B两种参数规模，以22%训练开销达同级别最优。它在架构、推理、数据、训练多方面创新，性能领先，适用于综述生成、工具调用等场景。
SmolVLA: 让机器人更懂 “看听说做” 的轻量化解决方案
文章介绍轻量级开源视觉 - 语言 - 动作 (VLA) 模型 SmolVLA，专为机器人领域设计，可在消费级硬件运行。它用公开数据集训练，架构经优化，还引入异步推理堆栈，性能超部分大模型，降低研究门槛。
百度想明白了：旧供给到达极限了
当下企业应用AI时，Token成本高、推理效率低问题凸显。百度Create大会释放旧供给达极限信号，推出新全栈AI云，含Agent Infra和AI Infra两层架构，多个场景应用初显成效。
黄仁勋做客美国第一播客：每天都在担心英伟达倒闭
英伟达CEO黄仁勋做客美国第一播客Joe Rogan，畅谈AI底层逻辑与技术演进，还分享英伟达创业历程。他指出AI已从检索转向推理，数据中心成“AI工厂”，并坦言每天担心公司倒闭。
陈丹琦新作：大模型强化学习的第三条路，8B小模型超越GPT-4o
陈丹琦团队提出结合RLHF和RLVR优点的RLMT方法，支持在基础模型上直接使用，节省后训练成本。它让模型生成CoT，用奖励模型评价输出，使小模型超越大模型，推理更像人类。