「参数压缩 - 覆盖假说」共找到 1208 篇相关文章
又一家清华系具身智能企业浮出水面：天使轮融资数千万元，打造具身数据Infra丨甲子光年
清华系具身智能企业灵御智能完成数千万元天使轮融资，累计融资近亿元。其聚焦打造具身数据Infra，研发TeleAvatar和TeleDroid构建数据采集母机，锁定三类应用场景，还从两方面压缩成本。
极简主义的胜利：清华团队用最简单的强化学习配方刷新1.5B模型纪录
清华、伊利诺伊大学和上海AI实验室团队提出JustRL架构，仅用单阶段训练和固定超参数，在1.5B模型上刷新性能纪录，计算量仅为复杂方法50%，挑战了复杂技术堆叠现状。
模型大一统？1100多个模型殊途同归，指向一个「通用子空间」！
约翰斯・霍普金斯大学研究发现，1100多个不同神经网络，即便训练条件不同，最终权重会收敛到共享低维子空间。此研究为神经网络参数空间“通用性”提供严谨实证，虽成因待探索，但意义深远。
0.07B大败QwenVL72B！百度开源OCR3.0"三件套"
OCR 历经四次范式迁移，工业落地存在精度与参数量等矛盾。百度开源 PaddleOCR 3.0“三件套”，含 PP - OCRv5、PP - StructureV3、PP - ChatOCRv4，各有创新点，解决了多语种识别、版面还原等问题。
吞下17亿图片，Meta最强巨兽DINOv3开源！重新定义CV天花板
Meta训出70亿参数「视觉巨兽」DINOv3并完全开源。它用自监督学习，无需人工标注，可生成强大图像特征，在多任务超专用方案，NASA已用其探索火星，还能推动多行业进步。
10% KV Cache实现无损数学推理！这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题，R-KV开源方法登场，显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余，还经多步骤压缩KV缓存，性能测试表现出色，适用多场景。
大模型微调知识与实践分享
文章详细介绍大型语言模型（LLM）微调知识与实践，包括模型结构、参数量等知识，以及Prompt工程、数据构造、LoRA微调等技术点。还给出微调实践流程，介绍相关平台和框架，如星云、TuningFactory等。
MiniCPM-o 4.5 技术报告发布：全双工全模态 API 开放，RTX5070 即可实时运行
面壁智能等发布 MiniCPM-o 4.5 技术报告，开放全双工全模态 API。该模型 9B 参数，RTX5070 可实时运行，下载量超 25 万。报告披露 Omni - Flow 框架，模型性能强，还能催生新应用。
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
开源版Genie 3世界模型来了：实时+长时间交互，单卡可跑，国内公司出品
本月初 Google DeepMind 发布 Genie 3 引发关注，没过两周昆仑万维就推出开源交互世界模型 Matrix - Game 2.0，参数量 1.8B，单卡可跑，能实现实时长序列、交互式生成，经测试潜力大。