「分布式推理系统」共找到 3593 篇相关文章
抖音&LV-NUS开源多模态新模，以小博大刷新SOTA，8B推理比肩GPT-4o
抖音SAIL团队与LV - NUS Lab联合推出多模态大模型SAIL - VL2，以中小参数规模在106个数据集实现性能突破。该模型从架构、数据、训练三方面创新，后经全链路优化，在多数据集验证中表现卓越。
专为宅男打造系统提示词，“二次元女友”爆火后马斯克开 44 万刀抢工程师
xAI 在 Grok iOS 应用推出 AI“虚拟伴侣”角色后，发布“全栈工程师 – Waifus”招聘，年薪高达 44 万美元。岗位负责打造实时虚拟形象系统，引发热议。不过，Grok 部分内容引 App Store 内容边界担忧。
「Thinking with Images」推理速度太慢？「Zooming without Zooming」 让AI不调用工具也能「明察秋毫」！
上海交通大学与蚂蚁集团联合团队发布多模态大模型成果“Zooming without Zooming”。该研究提出R2I方法，将“缩放”转为训练目标，使模型单次前向传播实现细粒度感知，团队开源的ZwZ模型家族达开源SOTA性能。
百度沧海·存储 Mantle 系统架构演进之路，SOSP'25 论文背后的故事
文章讲述百度沧海·存储Mantle系统架构演进故事。面对云存储挑战及业界方案局限，团队经多阶段探索，构建Mantle及MantleX架构，解决性能难题，并规划后续升级方向，为业界提供新思路。
从数据分布视角，重新认识下CoT
本文从数据分布视角重新审视大语言模型的思维链（CoT）推理。指出CoT并非真正推理，而是模仿，其效果受训练与测试分布差异影响。通过实验揭示CoT在分布偏移时性能退化，提醒勿过度依赖。
看完快手这场沙龙，我对生成式推荐的判断变了
作者参加快手技术沙龙，认为生成式推荐正重构推荐系统底座。快手在生成式推荐领域体系化演进，如OneReason让推荐系统学会思考，Pool - Rec解决算力问题，OneSearch V2和GR4AD用于场景实践，还举办LLM - Rec挑战赛。
Mini-SGLang，30万行代码浓缩为5000行，大模型推理高性能教学与研究模版
SGLang发布Mini-SGLang，将30万行代码缩至5000行，保留核心特性，为大模型推理提供高性能教学与研究模版，解决教育门槛高和科研原型开发难的痛点，还经测试验证了性能。
上海AI Lab发布混合扩散语言模型SDAR：首个突破6600 tgs的开源扩散语言模型
上海人工智能实验室提出全新范式SDAR，通过‘训练 - 推理解耦’融合AR模型高性能与扩散模型并行推理优势。实验证明，SDAR性能与原版AR模型持平或超越，还能加速推理，且已全面开源全系列模型。
MIRIX重塑AI多模态长期记忆：超Gemini 410%，节省99.9%内存，APP同步上线
UCSD和NYU团队推出开源的MIRIX，全球首个多模态、多智能体AI记忆系统。它表现亮眼，在多任务中超越传统方法，有类人记忆系统等特点，还上线Mac端应用，开启大模型从对话生成到长期记忆驱动心智的新周期。
地球级AI智能体爆诞！谷歌地球开外挂，一夜为20亿人洪水预警
谷歌结合世界建模经验与Gemini推理能力，升级Earth AI。它是地理空间AI模型和数据集，可自动连接不同地球AI模型。谷歌还推出新成果，如新一代影像与人口基础模型、空间推理智能体，可用于灾害预警等。