搜索：参数压缩 - 覆盖假说

「参数压缩 - 覆盖假说」共找到 1208 篇相关文章

参数量暴降，精度反升！哈工大宾大联手打造点云分析新SOTA

哈工大（深圳）和宾大联合团队推出基于KANs的3D感知解决方案PointKAN，能处理点云数据下游任务。它替代MLP，有更强学习几何特征能力。还提出PointKAN - elite，降参保量。实验表现出色。

9月2日消息，OpenAI将推出的旗舰模型Astra采用“循环深度”新技术，用较小模型实现庞大模型性能，降低成本。但该技术会让AI推理过程不可读，加重安全担忧，此前奥特曼已因Astra“能力过强”踩刹车。

本周五凌晨，谷歌正式发布、开源全新端侧多模态大模型 Gemma 3n。它有多模态设计、专为设备端优化等特性，核心是 MatFormer 架构，还采用了 PLE 技术等，在多方面实现质量提升。

Block CEO Jack Dorsey 认为传统公司层级制度在 AI 时代已无必要，AI 可承担协调等功能。Block 以 AI 为中心重建公司，构建两个世界模型，搭建四层架构，裁员 40%，重新定义人员角色和 CEO 工作。

小米k2 - fsa团队开源OmniVoice，这是支持600 + 语种的零样本语音克隆TTS模型，性能超ElevenLabs v2和MiniMax等标杆，RTF低至0.025，合成速度快40倍，还支持声音设计等功能。

近年来，推理阶段的成本等因素制约大模型规模化应用。腾讯混元升级的 AngelSlim 围绕 Eagle3 投机采样训练范式构建系统化实现，支持多模态场景，最高可实现 1.9× 推理加速，还具备多亮点。

微信AI和清华团队提出新范式CALM，把token打包成连续向量，让大模型从预测下一个token转变为预测下一个向量。实验表明它能减少生成步骤，在平衡性能和计算成本时性价比更高。

宋飏等人所著《The Principles of Diffusion Models》共460多页，系统梳理扩散模型发展脉络与核心思想，以统一数学框架串联多种视角，是研究者参考资料与初学者入门读物。

瑞典隆德大学与Google DeepMind团队研究大模型微调省参方案。发现低数据场景下，微调Value投影中的b(v)比b(q)或b(k)性能更好。该研究已被ACL 2026接收，集成进Hugging Face - PEFT库。

Sand.ai团队开源全球首个千亿MoE视频生成模型MAGI - 2 - preview，总参数114B，单次前向激活约6B，成本低效果好。该模型解决了视频生成Scaling难题，架构、系统设计出色，开源将改变行业规则。