「质量 - 延迟权衡」共找到 878 篇相关文章
天下武功，唯快不破：LLM高效架构最新最全面综述
大型语言模型虽成就辉煌，但训练成本高、推理延迟大，核心问题源于Transformer架构。这篇综述论文首次系统性梳理高效LLM架构创新方案，分类七大类方法，延伸至跨模态应用，为研究者提供‘效率蓝图’。
AI搜索引擎领域大哥Perplexity AI 三层重排序系统与核心排名因素揭秘，必看！
国外研究人员分析揭示Perplexity AI部分排名规则和因素。其有三层重排序系统，人工配置权威域名，热门话题与YouTube相关。还总结8个核心排名因素，并给出SEO优化策略，体现搜索重质量趋势。
微软开源新版Phi-4：推理效率暴涨10倍，笔记本可运行
今天凌晨微软官网开源Phi - 4家族最新版Phi - 4 - mini - flash - reasoning，它参数小性能强，适合边缘设备。采用自研SambaY架构，推理效率涨10倍，延迟降2 - 3倍，多场景测试表现优异。
开源版Suno来了：本地跑AI音乐生成，免费、无限、完全属于你
ACE - Step UI开源项目改变AI音乐生成现状，提供本地方案。它是完整音乐工作站，虽生成质量与Suno有差距，但在费用、隐私等方面优势明显，预示AI音乐生成开源生态崛起。
腾讯混元开源AI绘画新框架：24维度对齐人类意图，让AI读懂复杂指令
腾讯混元团队开源PromptEnhancer框架，通过“思维链提示重写”提升AI绘画文本 - 图像对齐精度，复杂场景准确率提升17%以上。还开源高质量基准测试数据集，为研究提供支撑。
Vibe Coding两年盘点：Windsurf已死、Cursor估值百亿，AI Coding的下一步怎么走？
文章回顾2023年初到2025年中AI Coding发展，涉及Cursor、Codeium等产品轨迹。指出极端‘坏用户’使商业模式崩塌，需平衡‘交付质量’与‘token成本’，还提及‘Knowledge Suggestion’功能及目标用户选择。
AI的记忆问题解决了！最强记忆基准99%的准确率
Supermemory团队构建的实验性AI智能体流程，在LongMemEval基准测试中达近99%准确率。其技术摆脱传统限制，以新方式处理信息。ASMR创新数据摄取和检索管道，有两种回答流程，团队计划开源代码。
千星项目LLMRouter：多模型路由，16+策略优化推理
UIUC开源智能模型路由框架LLMRouter，可自动为大模型应用选最优模型，有16+路由策略。该框架打通训练、评测等链路，解耦Route与Training模块，支持多轮协同等，还可插件式扩展。
南开 && UIUC | SearchAgent-X，打破「效率瓶颈」，让复杂「AI搜索智能体」走向现实
南开大学和伊利诺伊大学厄巴纳 - 香槟分校的研究提出SearchAgent - X框架，解决大型语言模型驱动的搜索智能体效率痛点。它剖析制约效率的原因，通过两大‘加速引擎’优化性能，实验显示效果显著。
8.8K Star！真正的本地实时 Whisper 开源神器，彻底干翻云端 STT！
做实时语音转文字系统，上云端 API 贵且隐私难保障，本地跑 Whisper 延迟高。WhisperLiveKit 是专为本地流式语音识别优化的全栈方案，解决了 Whisper 痛点，有极速处理等功能，适用多类项目。