最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的？

文章介绍了开源推理引擎 vLLM 和 SGLang，包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术，SGLang 基于 RadixAttention 优化。二者竞争激烈，性能趋同，还获投资与基金会关注，受科技公司青睐。

The Batch: 871 | Mistral测量了大语言模型的能耗、水耗与物料消耗

法国AI公司Mistral发布对Mistral Large 2的环境分析报告，涵盖全生命周期影响。研究表明单次使用影响小，但累计负担大。虽研究有不足，但其方法或推动环保型AI发展。

RAG效果不佳？先别急着微调模型，这几个关键节点才是优化重点

文章深入探讨RAG技术实现与优化，指出其在AI应用开发中常被当黑盒，从文档分块、索引增强、编码、混合检索到重排序等关键环节解析，强调结合场景调优以提升召回与精确率。

Agentic Deep Research新范式，推理能力再突破，可信度增加，蚂蚁安全团队出品

尽管LLM能力提升，但在复杂任务上受静态内部知识限制。业界提出Agentic Deep Research系统，不过现存系统有梯度冲突和奖励稀疏问题。蚂蚁安全团队提出Atom - Searcher，解决上述问题，实验效果良好。

Meta-Think ≠ 记套路，多智能体强化学习解锁大模型元思考泛化

上海交通大学等团队提出ReMA框架，将复杂推理解耦为元思维和推理智能体，通过迭代强化学习协作。在单轮实验中，ReMA在多基准测试表现优；多轮实验虽有提升但不稳定，需进一步探索。

华为CloudMatrix重磅论文披露AI数据中心新范式，推理效率超NV H100

华为发布60页重磅论文，提出下一代AI数据中心架构Huawei CloudMatrix及产品CloudMatrix384。它架构设计独特，性能高效准确灵活，打破算力、延迟和成本“不可能三角”，重新定义AI基础设施。

西湖 & 浙大 | PiFlow：让AI拥有“科学直觉”，Agent用于科学发现的新范式！

西湖大学团队提出PiFlow，一个基于信息论的自动化科学发现框架。它将科学发现视为结构化的不确定性降低过程，由科学原理指导，通过Min - Max优化机制平衡探索与利用，在多领域实验中效果显著，应用前景广。

大模型从“胡说八道”升级为“超级舔狗”，网友：再进化就该上班了

ASO中苹果App Store发展历史、多个流量入口（基础篇）

App Store发展历史及变化概述，流量入口的调整，展示形式的升级。

快手搜索广告落地生成式检索新范式：UniGD生成-判别一体化重塑检索链路

快手科技针对工业搜索广告中生成式检索存在的目标割裂、新广告冷启动、异构广告语义差异等痛点，提出UniGD生成-判别一体化框架，经公开测试与工业验证，效果与业务收益提升显著。