「高并发系统」共找到 3418 篇相关文章
如何在24GB显存里，塞下一个万亿参数的巨兽？KTransformers入选顶会SOSP
清华大学与趋境科技联合研发的KTransformers系统，可让消费级显卡跑万亿级参数模型，其论文入选SOSP 2025。该系统解决MoE模型本地部署难题，技术创新多，还与SGLang合作，提升硬件利用率。
攻克大模型训推差异难题，蚂蚁开源新一代推理模型Ring-flash-2.0
9月19日，蚂蚁百灵大模型团队开源新一代推理模型Ring-flash-2.0，独创棒冰算法解决训推差异难题，实现稳定训练。该模型仅激活6.1B参数就能打平40B Dense模型性能，降低推理成本。
机器人顶会RSS 2025奖项公布！大牛Pieter Abbeel领衔研究获杰出Demo奖
机器人顶会 RSS 2025 于 6 月 21 - 25 日在美国洛杉矶举行，公布多个奖项。如杰出 Demo 奖论文提出 MuJoCo Playground 开源机器人学习框架，简化全流程，可分钟级训练策略。
MiniMax ARR暴涨500%，token暴涨2000%！这就是Agent红利吧
MiniMax最新数据显示，今年8月ARR超8亿美元，较2月增长约5.3倍。2026年上半年收入同比涨283.1%，B端收入占比升至80%。其增长得益于用户增多和用法改变，M3、H3模型表现出色。
警报拉满，10k star , QuantDinger，赚钱可能就是这么简单！！！！
量化交易常存在研究、策略、回测和实盘间“失忆”问题。QuantDinger将量化流程形成闭环，是Open - source AI Trading OS，有研究、策略管理等四大核心能力，介绍了使用方法、适用人群。
霍尔木兹海峡封锁18天后，芯片产业还能撑多久？
霍尔木兹海峡封锁18天，全球半导体产业担忧能源储备还能撑多久。芯片产业存在‘能源软肋’，关键材料供应有‘垄断性风险’，全球供应链有关联性风险，凸显了产业在效率与安全间寻求平衡的必要。
OpenVision 2：大道至简的生成式预训练视觉编码器
多模态大模型浪潮中，视觉模块是关键。此前OpenVision训练管线复杂，成本高。研究者提出OpenVision 2，移除文本编码器与对比学习，引入随机丢弃视觉token技巧，性能佳且效率高，挑战了对比学习范式。
Pogocache：开源缓存软件实现低延迟并支持多传输协议
全新开源缓存软件 Pogocache 近日发布 1.0 正式版，主打低延迟与 CPU 高效能特性，支持多种主流通信协议，宣称比其他开源缓存方案有更高吞吐量和更低延迟。还介绍了其架构、应用场景等。
让AI学会潜意识推理，Sapient发布类脑模型HRM
新加坡初创公司Sapient Intelligence发布仅2700万参数的分层推理模型HRM，在多项高难度推理任务上超越大模型。它绕过大模型推理困境，借鉴大脑机制，训练效率高，开源后GitHub星标突破10.3k。
2025AI产品用户需求调研报告：AI产品的用户类型细分与画像分析 | 甲子光年智库
甲子光年智库基于调研数据开展AI产品用户研究，分析目标用户界定、类型细分与画像。指出新一代AI会重塑用户习惯，需探寻产品最终形态，还给出用户需求、类型分布等多方面结论。