「小模型性能」共找到 8886 篇相关文章
SGLang 优化Triton FusedMoE 的一个新技巧
蚂蚁在SGLang中提交优化PR，针对Fused Triton MoE的Down Projection kernel加入TMA优化，在DeepSeek - R1模型的H200 TP8 prefill场景下性能提升显著，还详细分析了优化背景、思路、实现细节及测试结果。
「美队」老黄深夜扔出地表最强GPU！算力百倍狂飙，下次改演雷神
凌晨，老黄GTC主题演讲华盛顿首秀，亮出下一代GPU核弹Vera Rubin，性能狂飙100倍。目前，Blackwell已全面量产，2026年底两大GPU王牌预计爆赚5000亿美金。此外，英伟达还公布了一系列合作与技术创新。
数据蒸馏的双重突破：从几何保真到对抗鲁棒
深度学习中，数据集蒸馏可用精简合成样本替代庞大训练集且不牺牲模型性能，但面临精度和可靠性两大难题。两篇发表于 ICCV 2025 和 AAAI 2025 的论文分别给出解决方案，且代码已开源。
Pingpong Schedule并不是万能钥匙
SGLang社区开发者反馈，SM90 FP8 Blockwise Scaling Grouped GEMM从H20迁移至H800后性能下降。文章分析是Pingpong调度策略所致，因算力提升，其使TensorCore未充分利用、TMA效率低，建议用Cooperative策略。
炮轰黄仁勋，决裂奥特曼！1700亿美元估值背后，硅谷最不好惹的AI狂人
本文介绍AI圈大佬Dario Amodei，因家庭变故投身AI。他带领Anthropic发展迅速，拟融资使估值达1700亿美元。不过公司亏损严重，且面临开源模型竞争。他坚信AI发展快，要加速开发并注重安全。
8种LLM架构设计大比拼：从 DeepSeek-V3 到 Kimi K2，究竟有啥不同
文章对比了8种LLM架构设计，如DeepSeek-V3、OLMo 2等。介绍各模型关键技术，像DeepSeek-V3的多头潜在注意力和混合专家架构，还分析不同设计对性能、效率的影响，助读者了解LLM架构差异。
Qwen3.8-Max：编程与办公，全面跃升
今日正式发布Qwen3.8-Max，下周将开源其及Qwen3.8 - 27B模型权重。它参数达2.4万亿，在多方面全面提升。开发者可通过千问AI平台获API服务，性价比高。在编程、办公等场景表现出色，用户反馈良好。
黄仁勋人生第一推，把硅谷劈成了两半！
7月24日晚，黄仁勋在X首发帖，公布25家联署的‘开源为什么重要’公开信，引发关注。马斯克、奥特曼等表态支持，但OpenAI等闭源三巨头缺席。信中为‘蒸馏’正名，凸显‘扩散派’与‘稀缺派’矛盾，中国开源模型崭露头角。
太抓马了！马斯克OpenAI开庭，硅谷巨富互揭老底像极了村口吵架
马斯克与OpenAI的世纪庭审爆点不断。马斯克承认xAI用OpenAI模型训练Grok，且庭审中六次失态；OpenAI也有黑料，如Brockman日记暴露其私下盘算。目前风向对马斯克不利，后续还有奥特曼等证人登场。
给 Happy Horse-1.0 讲完戏，我无痛当上导演了
文章聚焦阿里新发布的视频模型Happy Horse-1.0，经测试它在多镜头一致性、人物表现力和视频编辑功能上表现出色，能产出电影质感画面，且价格有竞争力，但物理拟真短板明显，已具影视工业应用潜力。