「动态算力分配」共找到 1224 篇相关文章
Sam Altman OpenAI 星际之门与马斯克xAI Colosus 2谁更强？
马斯克与Sam Altman在X上晒自家数据中心进展。OpenAI星际之门项目初始投资5000亿美元，与Oracle新增算力；xAI Colossus 2占地大、建设快，预计几周上线，将成全球最大AI超算集群。
一种基于滑动层合并的高效深度修剪大模型的方法
文章指出深度修剪可加快推理速度，但直接丢层会降低性能。为此提出滑动层合并法，根据相似度阈值融合连续层，简化结构且保持性能。实验显示该方法优于现有技术，还揭示了与宽度修剪结合的潜力。
AICon上海演讲精华回顾：《GMI Cloud 全球化高性能分布式推理服务构建实践》
AICon2025上海站，GMI Cloud资深架构师Frank Lee分享《GMI Cloud全球化高性能分布式推理服务构建实践》，介绍其推理平台，拆解扩缩容等能力，分享架构设计、部署及优化实践，揭秘推理提效关键路径。
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
77万人围观的吉卜力风「游戏」视频，我们用3个国产AI整出来了（含提示词）
Reddit上吉卜力风格游戏视频爆火，a16z合伙人Justine Moore转发获超77万浏览量。文章介绍用国产AI复刻视频的流程，包括用即梦3.0文生图，对比即梦3.0 Pro、可灵2.1大师版、Hailuo 02视频生成效果，还探讨AI对游戏产业的影响。
华为昇腾推理对决：开源vLLM vs 官方MindIE，数据说话「Qwen与DeepSeek推理实测」
文章围绕华为昇腾推理，对比开源vLLM与官方MindIE。借助GPUStack平台测试Qwen与DeepSeek模型，分析不同场景性能。指出vLLM和MindIE各有优势，还强调构建国产AI推理生态需多要素，鼓励开源协作。
突破传统检索瓶颈！阿里通义实验室发布 WebDancer，开启多步推理智能体新范式!
在信息爆炸时代，传统检索技术缺乏动态决策能力，难以满足多步推理需求。阿里通义实验室发布的 WebDancer 基于 ReAct 框架，通过四阶段构建，在测试中表现优异，未来规划拓展工具生态、突破任务边界等。
北京芯片巨头，吸金50亿加速狂奔
AI算力需求爆发，4月30日寒武纪抛出近50亿定增计划。其此前多次募资，虽长期亏损，但连续两季盈利，股价涨幅大。当下英伟达限售，政策支持，寒武纪有望抢占市场，此次募资将完善产品矩阵。
代码智能体占领GitHub！自动修bug、加功能、写文档，一台手机就能指挥
GitHub上新代码智能体Copilot Coding Agent，可自动修bug、加功能、写文档，开发者评价很棒。在手机APP就能操作，还能同时分配多任务。微软宣布VSCode中GitHub Copilot将开源，还发布多项新功能。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT：近乎无损 超越KIVI，内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高，限制模型批量处理能力。论文提出OTT方法，动态追踪异常令牌单独高精度保存，其余压缩。实验显示，它准确性高、效率好，不过在极短文本等场景有局限。