「低延迟推理」共找到 2941 篇相关文章
追平GPT-4o，数学基测96.3%高分，Hermes4 来了
Nous Research推出新一代大模型Hermes 4系列，其有混合推理和长度控制机制，还能用DataForge“造”数据，经Atropos质检。它在数学等领域表现佳，追平GPT - 4o，是开源AI对巨头的挑战。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
脸谱心智陆弘远团队ACL 2026新作：别再给模型叠加「高级词」了！模型更爱听「大白话」
脸谱心智与香港中文大学科研人员中稿 ACL 2026 的新工作提出 Adam’s Law，即文本频率定律，揭示文本频率对模型训练及推理的重要性，还给出工程解法，实验效果显著，为行业带来新思路。
WAIC抢先爆料：金融“黑马”大模型超DeepSeek刷新SOTA，论文已上线
WAIC期间，蚂蚁数科金融推理大模型发布会未开，论文已上线。其新模型Agentar - Fin - R1有8B和32B版，在金融测评集超DeepSeek等，还兼顾专业与通用，蚂蚁数科还提出评测基准Finova。
实测吓一跳，gpt-5.6居然比deepseek flash还便宜
上周GPT-5.6 luna打2折，次日梁圣的v4flash正式版发布。经实测，把GPT薅到极致比DeepSeek便宜，还整出无限活力流玩法。Luna max智力分值超Sol high，虽耗时久但成本低。
实测腾讯云 AndonQ：号称比肩原厂技术专家的 “领域虾”，到底有多能打？
文章实测腾讯云 AndonQ，它号称全球首款 ITSM“领域虾”，可适配主流“虾”类工具，集成至 IM Bot。测评显示其成本低、上手轻量，在架构选型、故障排查等场景表现出色，将 ITSM 体系浓缩到对话框。
深度解读黄仁勋的万亿美元蓝图
2026年3月16日，黄仁勋在GTC演讲中称AI计算需求至少达1万亿美元，实际或更高。他回顾AI三次拐点，介绍推理时代超级计算机Vera Rubin，还发布OpenClaw等软件，成立开源模型联盟，展示各行业应用，强调共封装光学重要性。
豆包19亿次互动背后的技术真相：春晚级体验是如何炼成的？
2026 年春晚 AI 元素亮眼，豆包 AI 互动达 19 亿次。火山引擎作为独家 AI 云合作伙伴，用智能视频云等技术打造节目效果，解决视频画质、空间逻辑、机器人互动延迟等难题，还保障全民互动和实时字幕。
12ms！一个仅8M的语音停顿检测模型
语音助手准确判断用户是否说完是挑战，Smart Turn将决策过程缩至12毫秒。其v3.1版有改进，新增数据集提升英语识别准确率，推出未量化版本推理更快，8MB模型性能优，已在HuggingFace开源。
告别VAE压缩损耗，南京大学用DiP让扩散模型回归像素空间，实现10倍加速与SOTA级画质
南京大学、腾讯优图实验室和新加坡国立大学发布DiP框架，即将开源。该框架不依赖VAE，仅增0.3%参数量，推理提效10倍，在ImageNet获1.79的FID分数，解决扩散模型在像素空间难兼顾质效的问题。