搜索：有状态推理 - AI Reading Hub

「有状态推理」共找到 7635 篇相关文章

SGLang Custom AllReduce v1 与 v2 实现原理详解

文章聚焦 SGLang 里两代自定义 all-reduce 实现（v1 和 v2），前者从 vLLM 移植，后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容，还对比了两代差异，并提及相关环境变量。

美团推出LongCat-2.0，是首个在国产算力上实现全链路训推闭环的万亿参数模型。它多项性能强，适配主流编程工具，架构设计原创，还证明了国产算力有支撑大模型迭代的能力，训推成本更低。

论文 'Spatial-Agent' 提出地理空间问答应建模为 'concept transformation'，引入 GeoFlow Graph 中间表示。它从自然语言问题构建图结构，再映射到工具调用。实验显示其对地图任务有帮助，还指出构建地图类 agent 需稳定数据源等。

AI投融资火热，黄仁勋成最大金主。过去财年英伟达投资175亿美元，今年已投400亿。投资风格是大手笔、广撒网，涵盖AI模型、算力、硬件等。偏爱OpenAI，投300亿，但与各实验室关系复杂，投资也有商业考量。

现在3D AIGC虽能快速生成场景，但落地有问题，很多场景物理模拟时会暴露物体悬空等问题。CMU等团队提出PAT3D，目标是让生成的3D场景物理上站得住，可用于编辑、交互和仿真，且代码已开源。

陶哲轩判断数学从证明稀缺进入过剩时代，AI 使证明生成加速，出现验证和消化跟不上的‘阻抗失配’现象。如 Erdős 问题有众多待评估方案堆积，而仅1196号案例跑通‘三件套’。他还指出学术评价体系将重写。

Meta和CBRE推出LevelUp光纤技术员培训项目，为数据中心培养新手。此外，Google、Amazon、Microsoft也有类似职业教育项目。同时，这些超大规模云服务商还在电力、硬件、连接等方面自建自用，呈现垂直一体化趋势，但资本市场仍按软件公司给它们估值。

月之暗面开源发布 Kimi K2.6 模型，在通用智能体、代码编写和视觉理解等综合能力上全面跃升。它在多项测试成绩领先，能连续工作13小时，还在全栈开发、多智能体协作等方面有出色表现。

今年4月，Generalist AI发布GEN - 1，其CEO表示不再将模型归类为VLA。当下VLA和世界模型是具身智能主流技术路线，多数世界模型在机器人任务上有瓶颈。跨维智能DexWorldModel在RoboTwin榜单表现出色，还开源EmbodiChain助力行业。

2024年特斯拉和OpenAI在机器人数据采集上路线不同，前者重资产高精度，后者低成本众包。当前数据采集方式各有优劣，难以兼顾质量与成本。数据堂提出分层采集架构，通过场内工厂化和场外众包化双轮驱动解决难题。