「通信延迟」共找到 321 篇相关文章

开源动态8

通过零开销逐层权重卸载技术将SGLang Diffusion wan2.2的推理速度加速60%

文章介绍在优化SGLang对Wan2.2视频生成模型支持时,发现双Transformer架构下第1步和第19步推理慢的问题。通过零开销逐层权重卸载技术,将整体推理速度提升60%,还突破显存墙,且该优化可扩展到其他模型。

GiantPandaLLM
新闻资讯7

被困住的日本数据中心

日本一座合资建设的数据中心是AI战略象征,承载训练大模型任务。但生成式AI兴起让数据中心成“电老虎”,与日本环保目标冲突。日本在发展AI与碳中和间艰难平衡,面临能源结构等多方面困局。

芯师爷
产品应用7

告别 260 亿美元的低效投入,HappyRobot 为物流业配置 “AI 调度员”

HappyRobot为物流市场搭建AI-native平台,切入“voice agent + 通信自动化”领域,打造“数字员工”。它能提升沟通效率、降低成本,已获6200万美元融资,还尝试拓展至其他行业。不过,也面临AI价值兑现不对称等潜在风险。

海外独角兽
产品应用8

华为超节点:用「一台机器」的逻辑,驱动AI万卡集群

在华为全联接大会2025上,华为基于自研灵衢互联协议创新超节点架构,重新定义大规模有效算力新范式。它能解决传统集群通信问题,还推出覆盖全场景的产品组合,并强调‘硬件开放、软件开源’生态战略。

机器之心
开源动态7

MIDAS:快手可灵发布实时交互式数字人生成框架

近年来交互式数字人视频生成受关注,但实时处理多模态输入有挑战。快手可灵团队提出MIDAS框架,基于LLM驱动的自回归模型,结合轻量级扩散头,实现低延迟、交互式多模态控制,还构建大规模数据集等。

带你学AI
推荐文章7

破局大模型推理困局!华为张君详解昇腾“融合算力”的优化秘籍

华为高级开发工程师张君在AICon大会演讲,围绕大模型推理优化,从模型、框架、算子层展开,结合案例阐述技术方案。分析大模型推理现状挑战,介绍加速技术,分享昇腾硬件算子优化实践及通算融合算子优化方法。

InfoQ
算法论文9

苹果LensVLM:长上下文压缩成图片,模型边看边「放大」

本文介绍苹果基础大模型团队与杜克大学联合提出的LensVLM方案,针对长上下文压缩易丢失关键信息的痛点,提出将长文本压缩为图像、模型按需展开细节阅读的新思路,相关研究已被NeurIPS 2026接收,公开了模型、代码与可体验Demo。

机器之心
开源动态8

手机跑多模态也能快到飞起!面壁MiniCPM-V 4.6开源

面壁智能开源多模态模型MiniCPM-V 4.6,以低算力成本、超低首Token延迟打通三大主流手机操作系统。它算力瘦身性能强,是视觉语言多面手,还适配主流系统,降本增效,让AI能力从云端到指尖。

AIGC开放社区
产品应用8

YOLO + OpenClaw 缺陷检测智能体,低代码实战方案

文章介绍了YOLO + OpenClaw缺陷检测智能体低代码实战方案。先指出实时检测延迟问题,提出离线自动化方案。接着讲训练YOLO模型、创建OpenClaw技能、配置自动化任务及企业微信集成,还对比了与人工质检效果。

机器学习AI算法工程
开源动态7

Agent Team 实践与架构设计:在约束下构建可演进的一个人开发团队

作者结合构建的Routa,探讨在Token、流程、工具选择等约束下构建可演进的多Agent系统。介绍了Routa架构、原则,如跨Agent通信、状态外置等,还阐述了各设计要点及示例,强调系统可演进性。

phodal