「推理服务」共找到 2623 篇相关文章
技术·艺术· 算术：京东零售 AIGC 百亿素材供给实践
本文整理自 QCon 全球软件开发大会·2026 石孝钢演讲。京东零售面对百亿级商品素材供给难题，构建 Oxygen Vision 系统，从艺术、技术、算术三方面探索，实现日供超 1000 万素材，服务超 100 万家商家，核心 XTR 综合提升 29%。
首个开源实现100%可复现的稳定RL训练框架来了！2次结果完全重合
SGLang团队联合slime团队开源实现100%可复现的稳定RL训练框架。基于Qwen3 - 8B重复实验结果完美重合。SGLang在批次不变算子基础上实现确定性推理，性能有下降但有提升空间，还给出使用方法和未来规划。
刚刚，Sam Altman宣布：GPT-5即将发布
Sam Altman在X上宣布OpenAI通用推理系统在2025年IMO达金牌水平，同时透露GPT - 5即将发布。OpenAI研究员Alexander Wei介绍突破细节，模型解决多道题获35分。GPT - 5是实验模型，有金牌能力的版本还需等待。
阿里开源PromptEcho：用冻结多模态大模型为文生图训练提供高质量Reward
阿里团队提出PromptEcho方法，无需标注和训练reward模型，仅通过冻结多模态大模型（VLM）的一次前向推理获高质量reward。实验显示其在文生图和电商海报文字渲染任务效果佳，且已开源相关代码等。
高通组局，宇树王兴兴说了一堆大实话
在2025骁龙峰会·中国上，宇树王兴兴等大咖畅所欲言。王兴兴指出机器人领域技术路线不同进展慢，建议模型开源，还强调芯片对机器人的重要性；李大海认为端侧模型是Agent核心；勾晓菲谈汽车服务竞争；耿增强呼吁Agent形成行业标准。
Meta没做的，英伟达做了！全新架构吞吐量狂飙6倍，20万亿Token训练
英伟达发布全新架构9B模型NVIDIA Nemotron Nano 2，以Mamba - Transformer混合架构实现推理吞吐量最高提升6倍，对标Qwen3 - 8B并在多任务中表现持平或更优，还开源模型及大部分预训练数据。
腾讯混元开源 4 个小尺寸模型，主打 Agent 和长文
8月4日腾讯混元开源四款小尺寸模型，参数为0.5B、1.8B、4B、7B，消费级显卡可运行。模型推理快、性价比高，在多领域表现出色，亮点是Agent和长文能力，已在腾讯多业务应用。
狂拿大模型明星订单，一家清华系HPC-AI Infra公司浮出水面
本文介绍清华系计算创业公司是石科技，其93年创始人闫博文不囤算力仍拿下大模型明星公司订单。团队技术实力强，3次获戈登·贝尔奖。公司构建全栈能力，为多领域提供服务，未来想以算力赋能各行业。
DeepSeek-V3再发论文，梁文锋署名，低成本训练大模型的秘密揭开了
DeepSeek 发布围绕 DeepSeek-V3 的技术论文，从硬件架构和模型设计双重视角，探讨实现经济高效的大规模训练和推理的方法。介绍了 DeepSeek-V3 的创新设计，如 DeepSeekMoE 架构、MLA 架构等，还给出未来硬件架构设计建议。
3年增长54倍，ARR 50亿美金，它如何跑通“第二名”AI商业化难题
Anthropic从OpenAI分化而来，3年估值从34亿美元涨至1830亿美元，近期完成130亿美元F轮融资。它先技术突围探索Claude系列，后场景突围确定优势领域，在编码场景领先，与OpenAI发展模式不同，靠API服务企业。