「推理服务基础设施」共找到 2932 篇相关文章
Agent 成大厂新“战场”？从同程旅行 DeepTrip 看垂类 Agent 的设计与落地实践
文章聚焦同程旅行推出的垂类旅行 Agent DeepTrip，介绍其设计与落地实践。它能降低旅行决策成本，构建旅行服务生态。团队基于多方面考量选 Agent 架构，还从多维度介绍实现方法及未来规划。
一个大脑搞定所有模态，百度ERNIE 5.0技术报告公布
模型发布近3个月后，百度ERNIE 5.0技术报告公布。其底座用超级稀疏架构，参数量万亿但推理激活参数不到3%，实现四种模态原生自回归统一，还在路由调度、训练范式等多方面有创新。
小白 Vibe Coding 发行全平台&可变现应用指南
文章以作者用 Youware 开发 AI 日记软件 Vibe Diary 为例，介绍 Youware 的 Youbase 和 Coview 能力，展示其构建全平台可变现应用的强大，包括后端服务、数据库、AI 功能、UI 修改等，还提及 PWA 打包和变现集成。
MMAR与AudioTrust技术解读，音频大模型评测前沿进展分享 | AI Bench Talk直播预告
司南评测集社区 CompassHub 收录多维度评测集。此次 AI Bench Talk 直播聚焦音频大模型，将分享评估其深度推理能力的 MMAR 及全方位可信评估框架 AudioTrust，还设圆桌讨论多模态/音频大模型相关议题。
2 天斩获 3.5K 标星！GitHub 惊现神器！一个二进制文件把 DeepSeek V4 搬进终端
GitHub上的DeepSeek TUI项目开源两天获3.5K Star，它把DeepSeek V4模型搬进终端成编码智能体，有原生RLM并行推理等亮点，提供多种安装方式、支持多提供商，适合终端开发者。
DeepSeek悄悄更新：Mega MoE、FP4 Indexer来了
昨天下午，DeepSeek 更新了 DeepGEMM 代码库，带来新东西 Mega MoE。它将 MoE 计算流程整合，让数据通信和计算同时发生，提高 GPU 利用率。还尝试组合精度、搞 FP4 indexer 等，是基础设施层重构尝试。
卖鞋厂转型做 AI 股价暴涨 582%，华尔街最不缺这种荒诞闹剧
4月初还在发布新品的鞋履品牌Allbirds，一周后宣布将业务重心转向人工智能计算基础设施。消息公布后，其股价一天内涨幅超582%。这种转型并非首例，背后是资本市场对热门概念的追逐。
Thinking Machines 发布又一神作「在线策略蒸馏」 ，LLM后训练效率飙升50-100倍
Mira的THINKING MACHINES开源「在线策略蒸馏」LLM后训练方法，结合两种主流后训练范式优点，提升训练效率50 - 100倍，成本降低9到30倍，可用于数学推理、模型个性化等场景。
GPT-5 核心成员详解 RL：Pre-training 只有和 RL 结合才能走向 AGI
本文编译 OpenAI 研究副总裁 Jerry Tworek 访谈，探讨 RL 与通向 AGI 路径。他认为 pre - training 与 RL 需结合，GPT - 5 是 o3 迭代，还谈及推理、模型发展、训练方式及 OpenAI 研究情况等。
马斯克Grok 4正式发布：世界最大AI超级计算机就训练了这？
Grok 4公开基准测试有进步，但在高级推理测试表现差，视觉理解仍是短板。性能提升多靠整合符号工具，无重大技术创新，‘幻觉’问题没实质进展，xAI官方对道德对齐信心不足。