「计算基础设施」共找到 1022 篇相关文章
别再只关注KV Cache了! LLM稀疏性新洞察：为何模型越深越稀疏？UNCOMP从矩阵熵给出答案
团队论文UNCOMP获EMNLP 2025主会接收，它提出高效推理框架，从截断矩阵熵视角解释LLM深层稀疏现象。还能识别关键结构、找到最优压缩策略，设计的UNCOMP框架优化KV Cache，实验效果佳。
HAMi × NVIDIA：GPU 拓扑感知调度实现详解
HAMi社区在v2.7.0版本推出针对NVIDIA GPU的拓扑感知调度功能，解决多卡通信瓶颈。文章深入剖析其设计与实现原理，介绍核心特性、阶段及代码，用双策略寻优算法保障性能与资源健康。
比Transformer更强的架构来了？浙大新作Translution，一统卷积和自注意力
随着大模型发展遇瓶颈，浙大等校学者提出神经网络基础操作Translution，实现自注意力与卷积的融合统一，构建更普适神经计算机制。它性能超Self - attention，为新一代神经网络发展开辟新方向。
119 页硬核报告丨AI 2030：算力、能源与科研的未来预测
Epoch AI 受 Google DeepMind 委托编写报告，探讨 AI 规模扩张至 2030 年在计算、投资等方面的影响，认为扩张很可能持续，还会加速多领域科学研发，虽预测有不确定性，但 AI 会成关键技术。
腾讯混元最新开源成“最强翻译”：国际机器翻译比赛获30个语种第一
腾讯混元团队的Hunyuan-MT-7B以7B总参数量获国际翻译比赛冠军，还开源了该模型及翻译集成模型Hunyuan-MT-Chimera-7B。其Shy框架有三大创新，在多方面表现优异，还为垂直领域优化提供模板。
大模型“记性差一点”反而更聪明！金鱼损失随机剔除token，让AI不再死记硬背
马里兰大学等团队提出金鱼损失法，训练时随机剔除部分token，让模型不逐字记内容，仍学语言规律。实验显示，LLaMA - 2用该方法后记忆内容减少，下游任务性能影响小。
每个token都在亏钱，但ARR9个月破亿！从烧光现金、裁掉一半员工到反杀Cursor，Replit CEO曝一年内如何极限翻盘
2024年初到2025年9个月内，Replit的ARR从不到1000万美元突破1亿美元。其增长基于系统性战略，从基础设施整合发力。创始人分享发展历程，还谈到AI编程趋势及产品边界等内容。
从烧光现金、裁掉一半员工，到 ARR 9 个月破亿：Replit用“全栈平台”反杀Cursor，赌赢“每层都赚钱”模式
2024年初到2025年9个月内，Replit年度经常性收入从不到1000万美元破亿。其增长靠系统性战略，以AI编程代理获客，后端基础设施变现。它反映AI编程工具从编辑器进化为平台的趋势。
2025 年中丨大模型市场分析报告
这是《2025年中丨大模型市场分析报告》。指出基础大模型塑造计算未来，企业重心转向推理。Anthropic超OpenAI成市场头号玩家，开源模型采用趋缓，企业换模型重性能，AI支出从训练转向推理。
字节真的要干生态了？Coze竟然开源了
字节开源 Coze Studio 和 Coze Loop，此时 Dify 等已在 Agent 基础设施赛道站稳。Coze Studio 提供 AI Agent 开发环境，Coze Loop 负责优化平台，技术栈扎实。开源版功能有删减，字节野心是抢占生态范式。