缓存不该困在一台服务器里

本文分析大模型推理阶段KV缓存的行业痛点，指出传统单机缓存孤立无法跨节点复用的问题，介绍焱融科技的分层共享缓存方案，公开了方案的实测性能数据，展现AI存储的新发展方向。

单向VLM变双向！人大斯坦福等提出MoCa框架：双向多模态编码器

人大、斯坦福等机构提出MoCa框架，将单向视觉语言模型转化为双向多模态嵌入模型。它通过持续预训练和异构对比微调，解决传统模型局限，在多模态基准测试中表现优异，尤其小规模模型性能突出。

马斯克暴走官宣：Grok 5就是AGI！五月连轰两代万亿怪兽，OpenAI慌了

马斯克宣称Grok 5就是AGI，5月将连发1T和1.5T两代万亿参数模型。Grok 4.3已上线，4.4、4.5将相继推出，Grok 5正以6万亿参数规模训练。不过，参数能否堆出AGI存争议。

不拼参数，拼认知：工业AI的边界与深水区 | 甲子光年

如今AI渗透工业各环节，形成“大小协同”格局，但面临场景复杂、数据孤岛等挑战。西门子凭借深厚积累构建工业体系，其Industrial Copilot等产品落地中国，还自研基础模型突破瓶颈，围绕‘AI for Real’理念布局。

Kimi K2技术报告正式发布：“保姆级”深度解析，一文读懂万亿参数智能体的所有秘密

Kimi K2技术报告发布，Moonshot团队用万亿+参数稀疏MoE架构等打造接近Claude - Opus的通用大模型。围绕训练稳定性等改进，有预训练、架构设计等多方面创新，为智能体领域提供可行路径。

告别「手搓Prompt」，前美团高管创业，要让物理世界直接成为AI提示词

在2025年AI硬件赛道火热背景下，Looki创始人孙洋团队打造Looki L1可穿戴设备，将自动驾驶逻辑用于生活场景，转化视听信号为模型上下文，构建用户专属数据飞轮，让AI实现主动共鸣。

一招缓解LLM偏科！调整训练集组成，“秘方”在此 | 上交大&上海AI Lab等

上海交大和上海AI Lab联合团队提出IDEAL方法，可提升LLM综合性能。研究发现SFT阶段数据数量非关键，配比不当会加剧模型“偏科”。以Llama3.1 8B测试，IDEAL能提升代码能力，还指导了超参数选取。

冲159K星 OpenClaw工具链，正在悄悄改变Agent玩法

Clawdbot更名openclaw后在github星冲到159K。它能让AI深入工作流且保数据隐私，有集成渠道多、工具齐全、有状态会话与持久记忆、路由策略适配不同模型等核心能力，并在多方面优于常见AI工具。

当亚马逊云科技拿到“麦克”，一年的云计算叙事都被改写了

2025亚马逊云科技re:Invent大会上，CEO Matt Garman围绕Agentic AI落地发布系列新品。其认为落地需四大支柱，亚马逊云科技带来如芯片、模型等成果，还强调私有数据及开发者工具重要性，多个企业已实践应用。

本文关注vllm V1中管控模型分布式推理的Executor部分，介绍其类型、Executor-Workers架构及数据传输机制，对比V0架构优势，以单机多卡的MultiprocExecutor为例展开讲解，还提及不同数据量的传输方式及相关代码。