「硬件瓶颈」共找到 1029 篇相关文章
华为| 祭出FlashComm1，FlashComm2、FlashComm3，解决LLM推理通算瓶颈
在大模型推理面临通算难题背景下，华为数学家祭出FlashComm 1、2、3。如FlashComm 1优化AllReduce通信，提升推理性能；FlashComm 2重构计算流程，提升推理速度；FlashComm 3实现多流并行，激增模型吞吐。
疯狂小扎边裁员边给高管发钱！元宇宙硬件成重灾区
据纽约时报等报道，Meta近日一边裁700人，涉及多部门，内部还评估更大规模调整；一边为6位核心高管设股权激励，收益与股价挂钩。这源于AI烧钱，Meta要开源节流，优先AI等现实方向。
3.9k星星爆火硬件开源，用Wi-Fi实现室内人体活动检测。
智能家居有诸多需求待解，如家庭安防、老人看护等。ESPectre开源项目用Wi-Fi检测室内人体移动，无需摄像头和红外传感器，配件成本低，利用Wi-Fi信道状态信息及高效算法实现功能。
告别“云端依赖症”：AI为何要“锁”进本地硬件里？｜甲子光年
过去三年，AI产业沉浸在云端幻象，但走进现实面临诸多阻力，如物理距离、隐私、试错成本和监管等问题。下一阶段AI竞争转向算力位置争夺，英特尔酷睿Ultra系列处理器助力多行业实现本地算力部署。
对话鹿明CTO丁琰：数据会反向决定模型，甚至影响硬件形态 | GAIR 2025
本文是对鹿明CTO丁琰的访谈。丁琰博士最早将UMI落地实践，其数采方案「FastUMI」受青睐。他认为UMI是完整体系，数据会反向影响多方面。还对比多种数采方式，介绍FastUMI改进及Pro版优势。
Sora 模糊视频有救了！强大的免费开源AI视频处理工具！硬件要求低！
Video2X-QT6是免费开源AI视频处理工具，支持视频超清放大、补帧，兼容CPU和GPU，低配置电脑也能用。6.0.0版本用C/C++重写，速度快、跨平台，还能处理图片。介绍了不同系统安装方法等。
突破后训练瓶颈？Meta超级智能实验室又一力作：CaT解决RL监督难题
AI后训练依赖监督微调或程序化检查器，但很多有价值任务缺这两种资源。Meta超级智能实验室等机构研究者提出CaT方法，把推理时额外计算当教师信号，为大模型提供监督，实验显示效果显著。
并行革命，32倍吞吐量跃升！英伟达Helix架构突破百万Token推理瓶颈
英伟达推出受DNA结构启发的Helix并行技术，能解决大模型处理长任务时的卡顿问题，提升上下文长度、并发能力并降低响应延迟。不过也有人认为其技术与实用性有差距。
GRPO遭遇瓶颈？G²RPO-A让自适应指导为小模型推理能力「开外挂」
大模型推理能力难迁移到小模型，现有强化学习方法如GRPO在小模型上性能提升有限。香港中文大学（深圳）唐晓莹教授团队提出G²RPO - A算法，缓解小模型奖励稀疏问题，在多模型实验中表现优于vanilla GRPO。
CapRL：用强化学习突破Image Captioning训练瓶颈，3B模型性能媲美72B
上海人工智能实验室联合团队发布 CapRL，首个将 DeepSeek - R1 强化学习策略用于 Image Captioning。CapRL - 3B 模型在图像描述任务媲美 Qwen2.5 - VL - 72B，已开源，团队持续迭代优化。