「通信开销」共找到 202 篇相关文章
一文彻底看懂AI-RAN
文章介绍AI - RAN,即人工智能无线接入网,英伟达力推将GPU用于基站。AI - RAN有开拓市场、提升基站性能等作用。产业进展方面,英伟达联合多方推动,通信行业形成加入和自主探索阵营,其发展还面临诸多挑战。
超越免训练剪枝:LightVLA引入可微分token剪枝,首次实现VLA模型性能和效率的双重突破
文章介绍LightVLA框架,它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题,提出两大创新,在LIBERO实验中性能超经典模型,还实现推理加速。
UNC | 发布Bifrost-1,构建“最强大脑”与“顶级画师”的桥梁,低成本实现“文生图”自由
随着AI发展,打造能推理又能创作的系统成为焦点。但让LLM学习视觉创作面临训练成本高和能力受损问题。BIFROST - 1框架在MLLM和扩散模型间建通信信道,解决核心痛点,实验表现出色。
代码怎么才能跑的更快
文章围绕让代码跑更快展开,先介绍调整源代码的方法,如降低循环开销、去除内存引用等,又阐述使用硬件加速指令,像用 SIMD 函数、避免分支语句等,还提及多核并行和分析瓶颈等要点。
vLLM 新特性:批量大小不再影响模型输出
vLLM 推出批量不变推理功能,解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致,技术实现含三部分,虽有性能开销但换来了结果确定性。
对话西湖大学刘癸庚:从拓扑光子学到太赫兹芯片,他想做连接AI大脑与身体的人
本文是对西湖大学刘癸庚的访谈。他在拓扑光子学研究成果丰硕,如三维光子陈绝缘体、光子轴子绝缘体的研究。如今专注太赫兹芯片与通信,想构建连接‘AI 大脑’与‘AI 身体’的链路。
一文彻底看懂6G!
文章深度解读6G,介绍其定义、与5G差异、网络指标、发展进展等。指出6G是新一代移动通信标准,速率更快,有革命性跃迁,预计2029年发布首个商用标准版本,2030年左右商用。
AI下半场的「Game Changer」,直让老外惊呼「Amazing」
海外社交媒体热议中国电信的智传网(AI Flow)技术,它是人工智能与通信网络交叉领域关键技术,可实现智能传递和涌现。该技术由李学龙教授团队打造,其报告受关注,能破AI普及困局。
一文看懂英伟达的产品体系和命名规则
文章由小枣君撰写,详细梳理英伟达产品体系和命名规则,涵盖算力芯片、超级芯片、超级计算机平台等,介绍各层级产品特性,还提及通信技术、开发框架CUDA,助读者清晰了解英伟达产品。
Switch的救世主是老黄!?
Switch2发售,其内置图形API NVN2亮相。NVN2让Switch2表现更优,应对3A大作轻松。NVN2背后是任天堂与英伟达十年合作,NVN去除通用功能减少开销,NVN2增加新特性让画面更精致。