「Triton推理服务器」共找到 2183 篇相关文章
不只是卖服务器，中兴通讯想做AI时代的基础设施商
中兴通讯将战略升级为“连接 + 算力”双轮驱动，2025 年算力业务营收大增，营收结构转变。在 2026 生态合作伙伴大会发布 Co - Claw AI 一体机等新品，启动“和合生态行动”，致力于做 AI 时代价值贡献者。
老黄入局吃龙虾！英伟达发布最强开源Agent推理模型
英伟达发布并开源120B参数的MoE模型Nemotron 3 Super，在多项测试中表现出色。它原生支持100万token上下文，吞吐量大幅提升。英伟达还计划五年投260亿美元构建开源AI模型，开放全参数权重等。
西湖大学提出RDPO强化学习框架，实现扩散模型并行推理加速
扩散模型“顺序去噪”特性成速度提升瓶颈。西湖大学AGI Lab提出RDPO框架，不必改动模型本身，优化其“采样导航系统”，在多基准测试中取得领先图像生成效果，解决加速问题并提供RLHF对齐新范式。
AAAI 2026 Oral｜LENS：基于统一强化推理的分割大模型
文本提示图像分割技术有战略意义，但基于监督式微调的方法有泛化能力瓶颈。为此引入LENS框架，采用强化学习机制，还介绍其架构、奖励机制，该框架在测试中表现优异，代码已开源。
英伟达发射了首个太空AI服务器，H100已上天
11月2日，英伟达首次将H100 GPU送入太空，搭载于Starcloud-1卫星测试AI处理应用。太空数据中心能源成本低、不占土地、少排温室气体，Starcloud计划未来大规模部署，还筹划后续任务。
模仿人类推理修正过程，阶跃星辰提出形式化证明新范式 | 开源
阶跃星辰发布并开源形式化定理证明大模型 StepFun-Prover-Preview-7B 和 32B。采用两阶段监督微调、工具集成强化学习及 RL 与 SFT 迭代循环优化等策略，在基准测试集表现佳，还展示多个证明案例。
告别天价API账单！开源Chatterbox语音服务器上线，隐私与效率双赢！
第三方语音合成API成本高、有隐私风险，直接部署开源模型配置复杂。开源的Chatterbox-TTS-Server基于Chatterbox TTS模型，有Web界面、声音克隆等功能，支持GPU和Docker，可解决部署难题。
Claude两个新模型实测流出！空间推理封神，算力直接榨干了
Claude两款新模型“棉花糖”和“甜瓜”实测流出，在3D强化学习和建筑空间布局上性能强大，还能直接理解并生成复杂3D坐标和空间关系。它们对算力吞噬疯狂，引发对其身份的猜测。
强化学习没作用？人大DelTA精准识别关键token，推理正确率大幅上升
人大高瓴研究团队提出DelTA算法，不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架，在多任务上提升base模型效果，还能让训练更稳定。
OpenAI开源Privacy Filter：PII检测不用传服务器 Apache2.0可商用
OpenAI开源Privacy Filter模型，采用Apache2.0协议可免费商用。它是PII检测工具，支持全本地运行，避免数据泄露。有诸多技术亮点，也有一定局限性，上线后下载量可观。