「推理部署」共找到 2645 篇相关文章
告别“云端依赖症”：AI为何要“锁”进本地硬件里？｜甲子光年
过去三年，AI产业沉浸在云端幻象，但走进现实面临诸多阻力，如物理距离、隐私、试错成本和监管等问题。下一阶段AI竞争转向算力位置争夺，英特尔酷睿Ultra系列处理器助力多行业实现本地算力部署。
The Batch: 882 | Qwen3-Next 提速
阿里巴巴对开源权重模型 Qwen3 全新升级，发布 Qwen3 - Next - 80B - A3B 的 Instruct 和 Thinking 版本权重。其融合新研究成果，推理能耗低、速度快，还优化架构和训练方法提升效率与稳定性。
追平GPT-4o，数学基测96.3%高分，Hermes4 来了
Nous Research推出新一代大模型Hermes 4系列，其有混合推理和长度控制机制，还能用DataForge“造”数据，经Atropos质检。它在数学等领域表现佳，追平GPT - 4o，是开源AI对巨头的挑战。
扣子要做 Agent 时代的 Infra，附开源版搭建全流程
扣子宣布开源 Coze Studio，后端用 Golang，前端用 React 和 TypeScript，基于微服务架构。借助火山引擎 ECS 可一键部署，还能更换自定义模型。官方表示开源是为顺应趋势、确保安全及获开发者反馈。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
脸谱心智陆弘远团队ACL 2026新作：别再给模型叠加「高级词」了！模型更爱听「大白话」
脸谱心智与香港中文大学科研人员中稿 ACL 2026 的新工作提出 Adam’s Law，即文本频率定律，揭示文本频率对模型训练及推理的重要性，还给出工程解法，实验效果显著，为行业带来新思路。
有什么事情是当了程序员之后才知道的？
本文是腾讯程序员分享当程序员后才知道的事，如改一行代码能崩项目、本地部署模型可免费搞定等，还给出多个有趣观点，最后发起评论互动并抽取粉丝送Q币卡。
OpenAI自研芯片内幕曝光！18个月前开始用AI优化芯片设计，比人类工程师更快
OpenAI与博通官宣合作，将共同部署10GW规模AI加速器。双方头头齐聚爆料合作契机与细节，OpenAI总裁称已用AI优化芯片设计，比人类工程师更快，且合作已持续约18个月。
国产开源LLM迎来大爆发的一周：Kimi、腾讯、快手、美团、面壁智能
国产开源大模型迎来爆发，快手、月之暗面、美团、面壁智能、腾讯等接连发布新模型，如快手Keye-VL - 1.5 - 8B刷新视频理解SOTA，美团LongCat - Flash - Chat推理快成本低等。
WAIC抢先爆料：金融“黑马”大模型超DeepSeek刷新SOTA，论文已上线
WAIC期间，蚂蚁数科金融推理大模型发布会未开，论文已上线。其新模型Agentar - Fin - R1有8B和32B版，在金融测评集超DeepSeek等，还兼顾专业与通用，蚂蚁数科还提出评测基准Finova。