「并行协同推理」共找到 2545 篇相关文章
【博客转载】CUDA Kernel Execution Overlap
文章讨论CUDA kernel执行重叠，指出有足够计算资源时可重叠，通过调整`blocks_per_grid`值，观察到不同并行化程度。还提到隐式同步会影响重叠，可启用`per-thread` default Stream 禁用。
腾讯出了个电子管家「马维斯」
腾讯推出操作系统Agent「马维斯」，自带六人团队，能接手各类工作。可深入系统排查问题，实现电脑与云手机协同。有隐私、效率双模式，目前支持Windows和安卓，Mac版在路上。
小米MiMo-V2-Flash开源：3090亿参数大模型能否改写AI行业规则!
2025年12月16日小米开源旗舰大模型MiMo - V2 - Flash，参数3090亿。它有独创‘按需激活’机制，推理成本低。采用MIT协议，价格亲民，构建全栈开源矩阵，在编程、长文本处理等领域表现出色。
为什么 LLM 搞不定复杂任务？ReAct 与 Reflexion 技术综述
文章指出大语言模型处理复杂任务存在事实幻觉、缺乏实时信息等问题。介绍ReAct将推理和行动结合，及Reflexion在其基础上添加评估反思机制，探讨两者结合优势，还提及未来发展方向。
GPU为什么能取代CPU，成为计算领域无可争议的核心？
过去CPU是计算核心，如今GPU凭借并行处理能力崛起。在人工智能、大数据等领域，GPU优势明显，软件支持也推动其普及。未来，GPU将在更多领域发挥作用，还会与CPU融合。
刚刚，北大&360里程碑式突破！32B安全分碾压千亿巨兽
2025年9月23日，北大 - 360联合实验室发布TinyR1 - 32B模型，仅用20k数据微调就实现安全性能突破，兼顾推理与通用能力。还推出TinyR1 - Safety - 8B，且系列模型已全面开源。
OpenAI硬件，也选了中国“果链”公司立讯精密
The Infromation消息，OpenAI盯上立讯精密、歌尔等“果链”企业，为AI新硬件做准备。立讯精密有丰富生产经验和软硬协同优势，将承担至少一款设备组装。OpenAI还挖走苹果20+硬件人才。
维纳智能登上Nature通讯：AI不只会回答问题，开始生成高精度行业数据
维纳智能登上Nature通讯，其让大模型自动生成高精度推理数据，用闭环反馈驱动专业Agent自主演化。该公司在多领域交出工业级精度答卷，还解决了Agent泛滥的困局，推出多款创新产品。
香蕉和GPT Image之外的第3条路：华人15人团队造出AI生图黑马
一支不到15人的华人团队推出AI生图模型Uni-1.1，在Arena.ai榜单冲进全球前三。它将推理和生成融入同一模型，创意可控，价格低，已获阿迪等企业认可，未来将拓展到多模态系统。
今夜无显卡！老黄引爆Rubin时代，6颗芯狂飙5倍算力
CES 2026上，英伟达黄仁勋发布Vera Rubin超算架构，推理性能比Blackwell提升5倍，训练性能提升3.5倍，成本降10倍，已投产，下半年商用。还展示自动驾驶模型等，且无新显卡发布。