图解Vllm V1系列7：使用AsyncLLM做异步推理

文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。

弃 Python 拥抱 JVM，Spring 之父 20 年后再造“革命性框架”：我从未如此确信一个新项目的必要性

Spring 之父 Rod Johnson 开源专为 JVM 生态设计的 AI 智能体框架 Embabel，旨在弥合生成式 AI 的‘承诺’与‘现实’差距。它采用 GOAP 方法保证确定性，有弹性执行与动态重规划能力，还引入多种机制确保可控性与安全性。

直播预约 | SwS: 强化学习训练能否不依赖外部知识优化模型的弱点？

该论文提出强化学习场景下的启发式数据合成流程（SwS），利用模型自我感知弱点驱动自动化问题生成，弥补推理缺陷。对其扩展后适应性更广，在多基准测试集和模型上验证有效，性能提升显著。

AI Agent平台Sedai获2000万美元融资，主打云优化

AI Agent平台Sedai获2000万美元B轮融资，由AVP领投。它聚焦云优化，用智能体取代人工运维，节省成本。产品应用广泛，核心能力突出，2024年收入增长7倍，计划扩平台、引新功能、扩市场团队。

谷歌突袭发布AI应用，无需Wi-Fi、手机就能跑大模型！网友实测两极分化

谷歌推出 Google AI Edge Gallery 应用，可在 Android 设备离线运行 AI 模型。它有本地运行、智能选模等特点，响应快且隐私性好。不过网友实测评价不一，有人认为它是旧技术包装，还被指比 Core ML 落后。

GitHub Copilot新代理把「自家人」逼疯了！

GitHub Copilot新智能体Coding Agent公测，官方想让它成协作开发搭子。但在微软仓库使用时问题多，多次提交失败、逻辑不通，未解决关键问题，虽能自动完成繁琐任务，但距‘靠谱搭子’还远。

AI在「赚钱锦标赛」夺冠，比人类还会做生意！躺赚时代要来了？

研究人员提出自动售货机运营模拟环境Vending - Bench，测试大模型智能体管理业务能力。实验显示不同大模型性能方差大，Claude 3.5 Sonnet净资产表现最佳，人类基线在可靠性上表现较好，各模型长周期表现波动大。

超长推理还能节省计算！Salesforce开源神器两连发：教大模型边想边省，显著提升数学编程准确率

Salesforce AI Research开源Elastic Reasoning和Fractured Sampling。前者将推理流程分两部分，分配token预算，使输出缩短、准确性提高；后者打碎推理链条，从三维度采样，以更少tokens换更高准确率，均提升数学和编程任务准确率。

仅隔一天，OpenAI同步上线o3和o4 mini，它们能调用ChatGPT里的多种工具，可基于图像思考。o3是强大推理模型，o4-mini专为快速经济推理优化。即日起部分会员可体验，还开源了Codex CLI。

全球唯一非侵入穿颅读脑突破！这家中国公司想成为脑科学的“英伟达”

当前脑机接口领域，侵入式危险、非侵入式分辨率低，深圳鲲为公司另辟蹊径，基于声学空间智能理论，用低频超声+算力算法实现全球首个非侵入高分辨率穿颅读脑，已商业化落地，目标成为脑科学领域的"英伟达"。