多GPU性能」共找到 5684 篇相关文章

产品应用8

网易游戏 Tmax 平台实践:基于 Fluid 的云原生 AI 大模型推理加速架构

网易游戏打造 Tmax AI 机器学习平台,但大模型推理业务规模爆发带来资源弹性等挑战。经评估,选用 Fluid + AlluxioRuntime 构建三层架构,有自动预热等配置,带来性能、成本等方面收益。

AI前线
算法论文8

扩展外部测试时Scaling Law,中关村学院新发现:轻量级验证器可解锁LLM推理最优选择

文章聚焦大语言模型‘测试时扩展’,指出内部方法接近瓶颈,外部方法的传统实现有缺陷。提出 TrajSelector 策略,用轻量级打分模型复用隐状态打分,训练无需手动标注,实验显示性能增长稳定。

机器之心
新闻资讯8

刚刚,OpenAI 发布 GPT‑5-Codex 新模型,专为编程而生

OpenAI 发布专为 Agent 编程优化的 GPT-5-Codex 新模型,在动态思考、性能、代码审查等方面表现出色。同时,Codex 平台大升级,集成 GitHub,保障安全隐私,还公布了定价与可用性。

AGI Hunt
产品应用7

谷歌 Apigee 添加了内置的 LLM 治理 Model Armor

谷歌云推出 Model Armor 公开预览版,这是集成到 Apigee API 管理平台的 LLM 治理框架。它能执行特定策略,检测种风险,支持 LLM 提供商,还与 GKE 和 Security Command Center 集成。

InfoQ
新闻资讯7

OpenAI反挖四位特斯拉、xAI、Meta高级工程师,目标星际之门

本周二消息,OpenAI从特斯拉、xAI、Meta等公司挖来四位工程师加入扩展团队,该团队负责“星际之门”项目,构建AI基础设施。此前Meta挖走位OpenAI员工,OpenAI承诺正面交锋。

机器之心
开源动态8

告别天价API账单!开源Chatterbox语音服务器上线,隐私与效率双赢!

第三方语音合成API成本高、有隐私风险,直接部署开源模型配置复杂。开源的Chatterbox-TTS-Server基于Chatterbox TTS模型,有Web界面、声音克隆等功能,支持GPU和Docker,可解决部署难题。

开源星探
开源动态8

Claude团队打开大模型「脑回路」,开源LLM思维可视化工具来了

Claude团队推出“电路追踪”工具,可生成归因图呈现LLM处理信息路径,支持在主流开源权重模型上快速生成。研究人员能借此解码LLM“决策逻辑”,官方还给出语言电路等示例。

量子位
开源动态8

图文跨模态“近视”问题破局:360开源新模型 FG-CLIP,实现细粒度图文对齐突破|ICML2025

360人工智能研究院发布 FG - CLIP 模型,攻克图文细粒度对齐难题,成果被 ICML 2025 接收并开源。它采用双阶段训练等策略,在任务评测中超越对比模型,推动跨模态研究产业化落地。

AI科技大本营
产品应用8

超越OpenAI、拿下全球双料第一,“AI吴彦祖”背后大模型SOTA了!

国产大模型MiniMax发布Speech - 02,拿下两项全球权威语音基准测评第一,是榜单前十唯一国产玩家。它超拟人、个性化、样,技术创新,且在行业落地,全模态布局领先。

量子位
算法论文8

具身智能迈入下半场,RoboMemArena全面评测机器人记忆系统

香港科技大学(广州)等机构打造具身智能评测基准 RoboMemArena,突破传统局限,构建综合评测体系,配套真机测评。它提供模态标注,任务长程样,开源资源易用,PrediMem 在其上表现出色。

机器之心