搜索：延迟导入 - AI Reading Hub

「延迟导入」共找到 230 篇相关文章

SGLang 2025-8月性能优化技巧记录

本笔记记录2025年8月SGLang框架性能优化实践，涉及GPT - OSS、DeepSeek - V3等模型，采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术，在性能提升、减少延迟等方面效果显著。

文章分析Nsight Compute中Compute Workload Analysis反映的Tensor Pipe Uti异常现象。通过实验和推算，发现ncu对L20 GPU上特定指令用错误执行延迟算指标，导致异常，还给出GEMM Kernel性能分析建议。

去GPU化浪潮来袭，AI竞争焦点从算力规模转向能效比与延迟。谷歌TPU性能提升且成本低，走向商用受青睐。英伟达天价收购Groq，多元架构正终结GPU单极时代，国产芯片需底层创新。

马斯克让Grok 5戴「纯视觉感知」与「拟人延迟」镣铐挑战LOL传奇战队T1。这是终极图灵测试，AI像人一样感知与推理。对决为特斯拉Optimus练兵，若AI看懂团战，就能理解现实世界。

Anthropic官宣Claude Design大版本更新，有四大亮点，如设计系统一键导入、代码双向同步等。设计师亲自演示新功能，还引出两条新命令。设计工具领域竞争激烈，背后是科技巨头抢占用户入口。

美团提出新型音频驱动肖像视频生成框架LLIA，是低延迟、可实时交互的虚拟形象生成技术。它提出四项核心技术，引入三大核心模块，构建超100小时数据集，在多方面有出色表现。

Google发布Gemini Embedding 2，首个原生多模态嵌入模型。能处理文本、图像等多种媒体类型，支持交错输入，覆盖超100种语言。与多模型串联方案比，延迟降70%、召回率升20%。已可在Gemini API等使用。

3DGS技术成研究热点，但现有方法在含动态物体场景建模精度不足。中山大学等研究者提出RobustSplat，有延迟高斯生长和尺度级联掩码引导两大核心设计，实验显示其在多指标上领先基线方法。

香港中文大学、字节跳动Seed和斯坦福大学团队提出SeqPO - SiMT框架解决同声传译“质量 - 延迟”权衡问题。该方法将同传建模为序贯决策过程，优化决策序列，实验显示其性能直逼离线翻译。

文章指出n8n、Zapier拖放式工作流调试难、自定义受限，介绍Bubble Lab工具，其用TypeScript实现，代码可自由修改，执行信息透明，还支持导入n8n工作流文件再开发，有一定优势。