「响应测量」共找到 141 篇相关文章
英伟达帮你省钱，让大模型推理「短而精」，速度快5倍
过去大模型推理追求长链思维，导致推理链长、Token消耗大、响应慢。英伟达研究院的DLER研究给出解决办法，通过强化学习优化方法让模型‘短而精’，推理长度减超70%且准确率不变，还适用于大模型。
Google 发布 Gemini 3.1 Flash-Lite：每秒 363 tokens，百万 token 只要 $0.25
Google发布Gemini 3.1 Flash-Lite，输出速度达363 tokens/秒，比上一代快45%，首个token响应快2.5倍。价格降低，输入$0.25/百万tokens，输出$1.50/百万tokens。跑分不错，还有动态思考功能，支持多模态输入。
微软刚发布Mu模型：支持Windows智能体，小参数跑出10倍性能
今天凌晨微软发布创新小参数模型Mu，3.3亿参数性能比肩Phi - 3.5 - mini，体量小10倍，离线NPU笔记本每秒超100 tokens响应。它支持Windows智能体，架构有多项创新，经训练优化后智能体表现出色。
面向多工具任务调度的两种路径：MCP vs Agent + Function call
本文围绕大语言模型智能应用中的工具与数据接入问题，介绍了基于 Agent + Function Call 的动态调度机制与基于 MCP 的标准化接入框架，分析了不同场景下的适用性，还探讨了二者未来的协同融合方向。
马斯克抢先谷歌一步放大招，Grok 4.1登顶LMArena，创意写作直逼GPT-5.1
当谷歌Gemini 3将上线消息传得沸沸扬扬时，马斯克xAI更快一步上线最新大模型Grok 4.1，响应速率提升、幻觉率下降。它有两个“形态”，免费开放且有APP版。在LMArena测试中成绩亮眼，多方面能力提升。
小红书，再造一个更有「声」命力的社区
2026年春节，小红书开放多种AI语音新玩法，如语音发布、评论、问一问等，增强社交趣味性。但AI语音落地面临音频理解、生成活人感和响应速度等问题。小红书有天然优势，技术团队自研模型达SOTA水平。
AI圈再颠覆！中国AI翻译耳机通话翻译，实测震撼
科大讯飞发布全新AI翻译耳机，上海与迪拜连线对话实测表现震撼，响应延迟低至两秒。其集成“端到端语音同传”技术，采用“骨导+气导”设计。此外，翻译机2.0也升级，科大讯飞在AI翻译领域优势显著。
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
一家智能眼镜公司，为什么非要自研AI大模型系统？｜甲子光年
智能眼镜要么不够智能，要么不像眼镜，李未可科技CEO茹忆认为AI要成第一响应者。该公司推三款AI眼镜，搭载自研系统。其自研AI大模型系统，是为交付难复制AI体验闭环，解决通用API不足等问题。
24小时直播，只靠一张照片？虎牙实时多模态数字人VAM 1.0率先突围行业三堵墙
虎牙推出实时多模态数字人VAM 1.0，只需一张照片就能转化成能说会唱、可实时互动的数字人。它解决了AI数字人行业的时间、交互、部署三堵墙，稳定性、交互精度和响应速度表现出色，应用场景广泛。