「通信延迟」共找到 307 篇相关文章
开源TTS离线工具！浏览器本地运行，仅300MB模型大小，零服务器依赖，隐私0泄露！
传统TTS工具依赖云端，隐私风险高、延迟大且费用高。而Streaming-KokoroJS是基于Kokoro - 82M开发的开源TTS工具，能在浏览器本地运行，零服务器依赖，隐私零泄露，具备多项实用功能。
MoE推理「王炸」组合：昇腾×盘古让推理性能狂飙6-8倍
在通往AGI进程中，MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型，经多方面优化，推理性能提升6 - 8倍。还采用多种策略和算法，在昇腾不同平台展现卓越性能，为大模型落地提供支撑。
吴恩达对谈LangChain创始人：企业构建Agen系统的核心认知！
吴恩达与LangChain联合创始人Harrison Chase深度对话，点明构建Agent系统关键要点，如关注系统‘Agentic’、解决构建核心挑战、模块化构建等，还提及被低估领域、MCP问题及AI创业制胜之道。
Memvid：把你的文档库变成一个小巧的视频，还能瞬间搜出你想要的！
传统向量数据库因高成本和复杂运维让开发者却步。开源项目Memvid将文本数据存入视频文件，能高效检索，解决存储冗余、检索延迟和网络依赖问题，使用简单，虽处概念原型阶段但值得尝试。
腾讯助力Deepseek完善DeepEP,RoCE提升100%，InfiniBand提升30%
Deepseek团队合并腾讯提交的代码完善DeepEP，称有巨大速度提升，RoCE提升100%，InfiniBand提升30%。DeepEP是为混合专家模型和专家并行设计的通信库，有多项创新特性，适合现代AI应用。
为什么算力追赶这么难？前谷歌架构师现场黑板推演底层架构，看懂芯片底层逻辑里被忽视的“空间博弈”
前谷歌架构师、MatX CEO Reiner Pope在访谈中从基础逻辑门讲起，推导芯片架构，指出芯片大部分成本花在搬运数据上，还探讨乘加运算、脉动阵列等原理，以及时钟周期、FPGA与ASIC差异等内容。
首创TTFA指标！港大团队开源FASTER，让VLA模型真正实现「即刻响应」
港大团队提出FASTER，重新审视动作分块策略的反应延迟问题，提出快速动作采样方法。它即插即用，已开源。通过Horizon - Aware Schedule等创新，降低TTFA、提高闭环频率，实验显示能显著提升VLA反应能力。
重构线性视觉Transformer，精度与效率双平衡 | CVPR'25
南洋理工、北航与合工大联合提出CARE Transformer，以非对称解耦建模局部与全局，降低计算开销、提升特征表达。实验显示其在移动端低延迟高精度，打破“效率与精度不可兼得”困局。
Agent/Skills/Teams 架构演进过程及技术选型之道
文章结合作者实践与多篇论文，梳理Agent架构从单点提示词调用到Agent Teams的演进逻辑，分析Single Agent、Multi - Agent、Agent Skills、Agent Teams的优劣，给出架构选型建议，强调架构应与问题复杂度匹配。
单张4090跑到30fps，范浩强团队让VLA实时跑起来了
Dexmal原力灵机团队在RT - VLA论文中公布，常用Pi0级30亿参数VLA模型在单张RTX 4090上最快能跑30fps。他们深入分析优化模型，成果已开源，还设计了未来控制框架。