「并行推理加速」共找到 2704 篇相关文章
21
本文聚焦vllm v1中管控模型分布式推理的核心Executor部分，介绍其4种类型及适用场景，以mp类型为例阐述Executor - Workers架构，还说明了大小数据在两者间的传输机制及原理。
从“卷模型”到“算总账”：AI 产业竞争开始拼什么 | 请回答 WAIC 2026
WAIC 2026热度高涨，InfoQ直播间追问‘AI正在重写什么’。与会嘉宾讨论AI产业新阶段变化，如从‘看能力’到‘算总账’，认为模型重要性方式已变，还探讨了AI原生产品定义、AI Infra影响及未来关注方向。
让VLA真正跑上机器人：北大团队开源Jetson-PI，Jetson Orin控制频率提升8.66倍
文章聚焦让VLA模型在机器人上高效运行难题。北大等团队提出Jetson - PI方案，从异步推理算法等三层面优化，在Jetson Orin上控制频率提升8.66倍，推动具身智能向工业应用跃迁。
深度｜Karpathy为何突然加入Anthropic，只能当Dario的「-2」？
5月19日，OpenAI联合创始人Andrej Karpathy宣布加入Anthropic预训练团队。他将组建新团队，用Claude加速预训练研究。文章分析了他加入的原因，以及Anthropic招聘他的动机，还指出这一变动标记着技术拐点。
英伟达为何持续押注VASTData？AI存储正在成为新的“算力”｜甲子光年
AI产业曾聚焦GPU，如今数据存储设施重要性凸显。VAST Data完成约10亿美元F轮融资，估值300亿美元，英伟达持续跟投。它重构AI数据基础设施，国内焱融科技有相似技术路线且具自主可控优势。
超150位全球AI一线技术专家齐聚巴黎，这场大会到底聊了些什么？｜GOSIM Paris 2026圆满收官
5月6日，GOSIM Paris 2026进入第三天，议程转向技术实践。超150位全球AI专家齐聚，探讨模型推理优化、开源社区治理等。Niko Matsakis等分享前沿观点，还有五大主题论坛及工作坊，展示开源AI生态成果。
GPT-5.6现身后，下一个Claude Sonnet 4.8又曝光了！
GPT-5.5发布不久，开发者在Codex内部日志发现GPT-5.6，几乎同时，Anthropic的Claude Code源码泄露，炸出Sonnet 4.8、Jupiter等型号。两家公司下一代模型几乎同时曝光，模型迭代节奏在加速。
Lovart第一时间上线Image 2：每个人真的可以瞬间拥有一个设计部了
Lovart上线Image 2，有去AI味的写实感、强大文字生成与泛化推理能力，完爆Nano Banana 2。它结合独家工作流，带来设计体验飞升，还给出五个使用场景案例，并对比了与Claude design的差异。
刚刚，Anthropic首超OpenAI！暴买谷歌TPU，Claude杀疯了
Anthropic与谷歌、博通合作打造3.5 GW TPU集群，预计2027年上线。其年化收入破300亿美元首超OpenAI，客户呈指数级增长。但训练和推理成本高，与OpenAI都在冲刺IPO，竞争激烈。
与Generalist顶峰相见，30天狂吸30亿，千寻智能做对了什么？
2026年4月7日，千寻智能完成新一轮10亿融资，30天内累计融资30亿，由雷军、马云旗下资本领投。其开源具身模型Spirit v1.5展现泛化能力，技术路径获认可。千寻构建多源数据引擎，还通过现实场景数据反哺模型。