本文关注vllm V1中管控模型分布式推理的Executor部分，介绍其类型、Executor-Workers架构及数据传输机制，对比V0架构优势，以单机多卡的MultiprocExecutor为例展开讲解，还提及不同数据量的传输方式及相关代码。

原来Scaling Law还能被优化？Meta这招省token又提效

2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。

硅谷陷入了对中国的痴迷与羡慕

《纽约时报》称‘硅谷陷入对中国的痴迷与羡慕’，虽有夸张，但中国在AI、基建等领域进展显著，如通义万相2.5视频大模型。a16z风投公司表达焦虑，中美科技竞赛激烈，双方开始相互学习。

告别「解码器饥饿」！中国科学院NeurIPS推SpaceServe，高并发克星

中国科学院计算技术研究所入选NeurIPS 2025的论文提出SpaceServe架构，将LLM推理P/D分离扩展至多模态场景，通过EPD三阶解耦与「空分复用」，解决MLLM推理行头阻塞难题，在Qwen2 - VL系列模型实测中表现出色。

实测美团 LongCat：快到极致，但是别说追平 DeepSeek

AI科技评论实测美团LongCat-Flash-Chat，它是中量级对话模型，主打“快”，几乎零延迟。但在推理、抗污染能力等测试中，相比DeepSeek-V3.1，逻辑链条松散，缺乏清晰判断。速度与逻辑哪个更重要，值得思考。

比NotebookLM更好的「开源播客」，可根据多模态内容生成30分钟以上播客音频。

Podcastfy是开源Python工具，能把文本、图片等多模态内容，借生成式AI转化为播客。它支持自定义，适配多种语言和文本转语音模型，能生成2 - 5分钟或30分钟以上的播客，使用体验比NotebookLM好。

如果你还在犹豫要不要尝试 OpenClaw，试试这个 App 一键部署方案

作者推荐 OpenClaw 这款开源产品，它像钢铁侠的 AI 助手贾维斯，可与通讯协同软件协作。还介绍用百度智能云 1 分钱部署 OpenClaw，阐述其配置、应用及价值，称 AI 会成基础设施。

码农只剩6个月？Anthropic CEO断言AI接管一切代码，爆冲诺奖级智能！

达沃斯论坛上，Anthropic的Dario Amodei和谷歌DeepMind的Demis Hassabis就AGI未来展开对话。Dario预测AI 6 - 12个月接管软件工程师工作，2026 - 2027年模型达“诺奖级”；Demis认为2030年前有50%概率实现AGI。

一文看懂 TritonNext 2026：FlagOS 亮点详解、语言扩展新趋势、AI 生成更加“底层”、芯片软件生态或迎“新拐点”！

1月9日，「2026 TritonNext技术大会」召开，专家探讨AI编译器等最新解法。如林咏华介绍FlagOS v1.6应对生态难题；崔慧敏用“AI for Compiler”破芯片演进难题；上海人工智能实验室推出DLCompiler打破算子开发困境等。

2025 年最全面的 LLM 架构技术解析【长文】

Sebastian Raschka更新「大型LLM架构对比」长文，解析2025年LLM架构发展。介绍了如DeepSeek V3、OLMo 2、Gemma 3等模型架构特点，像DeepSeek V3用MLA和MoE提升效率，还探讨线性注意力复兴等趋势。