搜索：质量 - 延迟权衡

「质量 - 延迟权衡」共找到 875 篇相关文章

阿里开源PromptEcho：用冻结多模态大模型为文生图训练提供高质量Reward

阿里团队提出PromptEcho方法，无需标注和训练reward模型，仅通过冻结多模态大模型（VLM）的一次前向推理获高质量reward。实验显示其在文生图和电商海报文字渲染任务效果佳，且已开源相关代码等。

LangChain对1300名行业人士调查，揭示AI Agent应用情况。超半数受访者已将Agent投入生产，客户服务、研究与数据分析是热门方向，但输出质量仍是落地最大障碍，成本不再是难题。

苹果在Hugging Face放出FastVLM与MobileCLIP2两条多模态主线。前者主打「快」，首字延迟压到竞品1/85；后者突出「轻」，体积减半。模型和Demo已开放，开发者可集成开发。

Maitrix团队发布开源AI端到端语音模型Voila，以195ms超低延迟及全双工对话受关注。它功能强大，支持多语言，有多种使用方式，适用于多个场景，架构采用模块化设计。

Google新论文提出简单提升大模型准确率的方法，即重复提示词，把完全一致的输入连续发2次。主流模型适用，经70项benchmark测试，0场景效果倒退，47个场景准确率提升，且几乎不增延迟、成本。

法国AI实验室Kyutai开源高性能TTS语音模型Kyutai TTS，基于DSM框架，支持流式输入、超低延迟与高保真语音生成，有多项亮点，还给出不同使用方式及应用场景。

斯坦福Hazy实验室推出低延迟推理引擎「Megakernel」，将Llama - 1B前向传播融入单一GPU内核，H100上提速1.5倍，B200上每次推理仅0.00068秒，比vLLM快3.5倍。文章分析传统引擎问题并介绍Megakernel设计。

谷歌Gemini团队主管Addy Osmani开源的Agent Skills项目火了，已揽1.9w+ Star且还在增长。它是AI编程代理人的工程技能库，有20个核心技能，覆盖开发全周期，可提升AI编程交付质量，支持主流编程工具。

拓元智慧联合多团队开发出 DrDiff 框架，解决长文本生成中效率与质量难兼顾问题。其核心是“动态化”，有分层稀疏注意力、动态专家调度、语义锚点状态三个创新组件，经测试表现良好，未来应用值得期待。

视频编辑门槛高、现有方法开销大且效果不佳。西湖大学AGI Lab团队提出无需训练的FlowDirector框架，可将基于流的视频生成模型改造成编辑工具，质量高、功能广、开销低，解决了时序、结构和编辑幅度问题。