「稀疏矩阵」共找到 179 篇相关文章
谷歌发布 Gemma Scope 2，深化对 LLM 行为的理解
Gemma Scope 2 是谷歌推出的解释 Gemini 3 模型行为的工具，结合稀疏自编码器和转码器，能让研究人员检查模型内部表示。它从多方面扩展了原先的 Gemma Scope，还引入针对聊天机器人的分析工具，已发布权重。
李国杰院士：AI4S里程碑式重大成果综述
本文由李国杰院士撰写，对AI for Science近年里程碑式突破做全面综述，涵盖数学、物理、化学等多领域成果，如李雅普诺夫函数构造、AI辅助核聚变等，还探讨了AI4S潜力与挑战。
两张图就能重构3D空间？清华&NTU利用生成模型解锁空间智能新范式
ICCV 2025中稿的LangScene-X以全新生成式框架，仅用稀疏视图就能构建可泛化的3D语言嵌入场景。它攻克传统方法痛点，将多模态信息统一在单一模型，为空间智能领域打开新大门。
中国科幻大会聚合力 铸就首钢园未来产业新高地
2026第十届中国科幻大会3月27日开幕，这是该盛会第六次落地首钢园。自2020年结缘，首钢未来数字空间创新高地渐成实景。首钢聚焦科幻等新质生产力领域，构建多元体验矩阵，以“会”聚产，推动科幻产业生态繁荣发展。
百度：和大家一起讲 「超级有用」的故事
作者参加百度AI DAY智能云创新行业专场，看到百度全栈AI解决方案矩阵及应用案例。百度通过构建生态、全栈自研、推动科技平权等举措发力AI，诸多应用已取得商业成果，有望在AI商业化长跑中胜出。
面壁MiniCPM4端侧模型发布：长文本推理 5 倍提速，0.5B 模型拿下新SOTA
2025智源大会，面壁发布MiniCPM4.0端侧模型，含8B稀疏闪电版与0.5B款。其采用InfLLM架构，实现长文本推理5倍提速、最高220倍加速，还在性能、部署等方面优化，适配多芯片与框架。
智能体编程“小钢炮”：Qwen3.6-35B-A3B开源！
Qwen3.6-35B-A3B开源，是稀疏MoE模型，总参350亿、激活参数30亿，轻量高效，在智能体编程等方面表现卓越，超越前代，可与稠密模型媲美，支持多模态，已在Qwen Studio上线并发布开源权重。
GLM-5登顶开源模型No.1！智力指数首破50大关，打平Opus 4.5
在Artificial Analysis评测中，GLM - 5成开源权重模型智力排名第一，是首个智力指数破50的开源模型，除代码能力外各方面表现出色。它集成DeepSeek稀疏注意力，参数规模大，擅长“搞钱”任务，幻觉率低且输出精简。
Transformer 中的专家混合模型 (MoE)
文章介绍Transformer中专家混合模型（MoE），它能解决稠密模型扩展瓶颈。阐述其优势，如计算高效、适合并行等，还介绍在transformers库中支持稀疏架构的演进，包括权重加载重构、专家执行后端、专家并行及训练方案。
CVPR 2026 | ReFTA：打破张量化PEFT的「权重重建」瓶颈
随着大模型发展，全参数微调成本高，参数高效微调（PEFT）成主流。常见基于矩阵低秩分解的PEFT方法有局限，张量化PEFT虽有优势但存在权重重建问题。本文提出ReFTA方法解决该问题，有工程和理论优势。