「矩阵熵」共找到 120 篇相关文章
别再只关注KV Cache了! LLM稀疏性新洞察：为何模型越深越稀疏？UNCOMP从矩阵熵给出答案
团队论文UNCOMP获EMNLP 2025主会接收，它提出高效推理框架，从截断矩阵熵视角解释LLM深层稀疏现象。还能识别关键结构、找到最优压缩策略，设计的UNCOMP框架优化KV Cache，实验效果佳。
信息熵之后，清华提出状态熵！量化分析「系统智能性」的全新视角
清华大学科研团队从自治系统的演化动力学出发，提出状态熵概念，分析其与系统聚合度关系，为系统智能性度量提供新视角。论文给出状态熵统一定义及演化解析表达式，还在典型系统上分析其演化规律。
快手Klear团队提出CE-GPPO：通过梯度保留协调熵，解决强化学习中的熵不稳定问题
快手 Klear 语言大模型团队提出新强化学习算法 CE - GPPO，以「熵」为核心，提出梯度保留策略，重新利用裁剪外区间低概率 token 的梯度，实现策略熵的精细调控，解决强化学习中熵不稳定问题。
拒绝“熵崩塌”和“熵爆炸”！这项研究让大模型学会“精确探索”，推理成绩飙升
2024年以来，大模型在推理任务上进展显著，得益于RLVR方法，但面临“熵困境”。研究团队提出选择性熵正则化方法（SIREN），通过三重机制精准调控探索行为，实验证明其能提升模型推理成绩。
【CUDA 博客】使用PTX指令更高效地加载和存储矩阵
文章围绕使用PTX指令高效加载和存储矩阵展开，介绍`ldmatrix`和`stmatrix`指令格式、适用GPU版本、地址计算逻辑等，给出不同矩阵数量的实现代码示例，助读者理解和应用。
震撼全网，AlphaEvolve矩阵乘法突破被证明为真！开发者用代码证实
开发者用Claude写代码证实谷歌DeepMind的AlphaEvolve求解矩阵乘法的突破为真，它将4×4复数矩阵计算次数从49次减到48次。小哥测试代码各项指标与论文报告一致，还上传到GitHub。
Claude一举扫清2000阶以下哈达玛矩阵！AI开始清空数学“待解列表”
Anthropic研究员携手Claude做出668阶哈达玛矩阵，解决该问题。此问题曾难倒人类数学家30年，被收录进FrontierMath基准测试。此次还扫清2000阶以下所有悬而未决的哈达玛矩阵阶数。
矩阵起源（MatrixOrigin）完成超千万美元A轮融资 | 5Y News
2026年8月6日，企业级AI基础设施厂商矩阵起源完成超千万美元A轮融资，由汉得信息参与投资的基金、亚康股份与Artesian Venture Partners注资。资金用于平台研发、市场拓展等。其产品具优势，获多方认可。
【CUDA 博客】TMA简介 & 让矩阵转置在Hopper GPUs上变得更快
文章介绍Hopper GPU新特性TMA，它能高效传输多维数组数据。文中展示用TMA对2D数组操作，如创建张量映射、编写kernel等。还讲了避免共享内存bank冲突的交织方法，最后介绍在Hopper GPU上实现高效矩阵转置的多种方式及性能。
重新思考RLVR中的熵正则：从探索不足到探索过度的破局之路
2024年以来，RLVR使大模型在推理任务有显著突破，但实践中探索机制易失衡。传统熵正则化在LRM场景易走向极端，研究团队提出SIREN方法精准调控探索，实验显示其在多模型和数据集上性能提升显著。