「集群性能优化」共找到 2912 篇相关文章
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。
时隔两月，Mistral AI终于上新Medium 3，近期还有「One more thing」
时隔两月，Mistral AI 推出 Mistral Medium 3，性能介于轻量级和大规模模型间，优于 GPT - 4o 等。未开源，可通过官网等使用，专为企业设计，成本低。还预告将推「大型」产品，同时推出企业聊天机器人 Le Chat Enterprise。
别学提示词，学逻辑
作者黄益贺认为别学提示词、别买相关课程，因其本质是通用沟通技巧，靠逻辑和方法论。还提到提示词上层是针对模型优化，但普通用户做好底层就行，靠提示词收割流量挺无聊。
开源一个非常漂亮的文章配图 Skill
作者将给文章配图的经验做成 `guizang-material-illustration` Skill 开源。它能把文章等内容变成带中文标签解释图，适配多种场景，解决配图难题，还做了多项优化，介绍了适用场景、安装使用方法。
懂方言，通诗词，精通30国语言，阿里发布语音识别大模型Fun-ASR1.5
阿里发布语音识别大模型Fun - ASR1.5，可精准识别30种语言，覆盖中文七大方言体系及二十余种地方口音，强化古诗词诵读专项识别，后处理环节优化标点预测和文本归一化，降低人工成本。
Thinking Machines再发文：模块化流形让训练更稳定
Mira Murati团队分享神经网络训练推理新研究，提出“模块化流形”让训练更稳定。将权重约束在Stiefel流形，设计Manifold Muon优化器，实验显示效果好，但计算开销和理论问题待解决，代码已开源。
扩散LLM推理新范式：打破生成长度限制，实现动态自适应调节
随着扩散大语言模型成为热门，但其推理时存在预设固定长度的限制。香港中文大学 MMLab 等提出 DAEDAL，赋予模型根据问题自主调整回答长度的能力，在性能和计算效率上有提升。
Grok 4意外提前曝光，xAI巨额融资700亿，马斯克宣布“重写人类知识库”
xAI的Grok 4提前泄露，团队跳过Grok 3.5直接推出。它被定位为旗舰模型，有强大性能。马斯克欲用其重写人类知识库，但引发争议。xAI融资100亿，建超算中心面临电力问题。
训练MoE足足提速70%！华为只用了3招
Scaling Law下，MoE成扩展模型能力法宝，但训练难题凸显。华为构建Adaptive Pipe & EDPB优化方案，还打造DeployMind仿真平台，解决了MoE训练中通信等待、负载不均等问题，使训练吞吐提升72.6%。
0.7nm制程芯片问世！摩尔定律又活了
IBM推出全球首款0.7纳米芯片制程节点，指甲盖大小芯片可集成近1000亿晶体管，性能或能效大幅提升。靠‘纳米堆叠’架构实现突破，最早5年内量产，有望让芯片微缩延续十年。