Mini-sglang-01：从Client到Scheduler的消息流转之旅

文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。

RLinf上新πRL：在线强化学习微调π0和π0.5

近年来，基于流匹配的VLA模型成机器人领域前沿技术，但训练依赖大量人类演示数据。清华等机构联合推出在线强化学习微调框架πRL，提出两种微调方案，在测试平台验证了有效性，目前代码等已开源。

超越英伟达Describe Anything！中科院 & 字节联合提出「GAR」，为DeepSeek-OCR添砖加瓦

中科院与字节联合提出「GAR」，为构建自然图像的Dense Caption提供新思路。GAR具备精准描述、关系建模和组合推理能力，通过引入新组件，兼顾细粒度与全局上下文，在多测试集表现优异，且代码等已开源。

一句话，性能暴涨49%！马里兰MIT等力作：Prompt才是大模型终极武器

马里兰大学、MIT、斯坦福等机构研究发现，AI性能提升一半靠模型，一半靠提示词。他们让DALL - E 2和DALL - E 3 PK，发现DALL - E 3性能提升中，模型升级贡献51%，提示词优化贡献49%。

AI Infra 工程师们如何应对大模型流水线里的“暗涌”？

InfoQ《极客有约》X AICon 直播，邀请华为昇腾专家 ZOMI 酱、蚂蚁集团马介悦和 SGLang 尹良升探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代策略、推理部署优化、开源项目挑战等内容。

97年金融男带8只「电商龙虾」全球开店！2个月后同行慌了

阿里版「电商龙虾」Accio Work打通国际站，一个工作台可全包选品、发品等七个岗位的活。它结合多维度数据助力选品，还能进行广告诊断、店铺运营等，在不同商家案例中成效显著。

CUTE DSL学习笔记一 CUTLASS 4.3.5 CuTe DSL 文档翻译

本文是 CuTe DSL 4.3.5 文档翻译，介绍了其核心概念、使用方法、与 CUTLASS C++ 关系等。它通过 Python DSL 降低 CUDA Kernel 开发门槛，支持 JIT 编译、多种架构，还说明了当前限制与未来计划。

OpenAI 的“编程”新范式？其实是瀑布模型的回魂：“听 PM 的话、写需求文档”

在今年AI工程师大会上，OpenAI研究员Sean Grove提出在AI驱动时代，清晰规范将取代传统代码成软件开发核心产物。他认为编程核心是结构化沟通，该转变是工程实践未来方向，但引发诸多讨论。

2025年4月17日消息，OpenAI 连发o3和o4 mini，o3为强大推理模型，o4-mini专为高效推理优化。它们能调用ChatGPT工具，可基于图像思考。OpenAI还开源本地代码智能体Codex CLI，兼容所有模型。

重构一个类，JVM竟省下2.9G内存？

文章复盘优化JVM内存的过程，仅重构一个类，堆内存从3205MB降至211MB。原设计用通用容器在海量数据下成“内存吞噬者”，新方案用FastUtil的Long2ObjectOpenHashMap和int[]，还详解了其原理和优势。