「批量归约求和」共找到 106 篇相关文章
【博客转载】CUDA Reduction
文章来自Lei Mao，介绍CUDA归约操作。先阐述归约操作在并行计算中的常见性，接着实现两个批量归约求和kernel，还给出构建和运行示例的命令及结果。最后探讨大数组归约求和的方法及性能影响。
【博客转载】CUDA Cooperative Groups
文章介绍CUDA cooperative groups，它让开发者创建和管理能同步通信的线程组，为GPU并行算法编程提供更灵活高效方式。文中讨论并行归约算法及用cooperative groups的实现，还对比不同归约求和方法及性能。
vLLM 新特性：批量大小不再影响模型输出
vLLM 推出批量不变推理功能，解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致，技术实现含三部分，虽有性能开销但换来了结果确定性。
八年一觉AI梦：轰然成势，万象归一 | 甲子光年八周年
文章回顾甲子光年八年来与AI共成长历程，指出当下AI“轰然成势，万象归一”。“成势”是多力量耦合过临界点，“归一”是在复杂世界共享底层逻辑。强调智库要参与构建叙事推动产业秩序形成。
MCP进阶：一键批量搞定MCP工具部署
在AI应用复杂当下，传统MCP工具集成有痛点。文章提出基于阿里云计算巢的一站式方案，可多MCP工具批量部署，首创双通道调用能力，还介绍部署、使用、增减工具及问题排查等内容。
Stability AI前CEO惊人预测：人类智力价值归零，只剩1000天！
Stability AI前CEO Emad Mostaque在节目中称，未来1000天AI将重塑经济结构，人类劳动价值或归零甚至为负。他提出「MIND框架」衡量经济，指出当前处于智能反转阶段，还探讨应对之策。
真实场景也能批量造「险」！VLM+扩散模型打造真实域自动驾驶极限测试
浙江大学与哈工大（深圳）联合推出SafeMVDrive，将VLM关键车辆选择器与两阶段轨迹生成结合，可在真实域批量制造高保真安全关键视频，用于端到端自动驾驶系统安全性测试。
二十年老牌 IDE 栽在 AI 上！JetBrains 被差评逼疯批量删除评论，用户怒打更多1星抗议
JetBrains 2023 年 12 月发布的 AI 助手插件下载超 2200 万次，但评分仅 2.3 分。该公司批量删负面评论引用户不满，其还存在安装难移除、体验差等问题。虽推出免费套餐和 Junie 智能体，仍面临成本和竞争压力。
理解归 AI，正确归引擎：从一句话到一条实时数据链路（0代码搭建实时任务）
文章分享直播数据团队搭建AI辅助、指标驱动的实时数据端到端开发系统的实践与思考。从案例介绍用户使用流程，再深入系统内部讲链路构建与演进，阐述设计方法论，最后提出未来规划。
AI批量轰炸苹果bug赏金计划，审核团队已下线
苹果bug赏金计划因AI冲击设冷静期，业余选手用ChatGPT批量找漏洞，让审核团队分身乏术。同时，苹果最强防御系统被AI攻破，不过防御者也能用AI工具，苹果首次在安全修复中致谢AI。