「零开销逐层权重卸载」共找到 295 篇相关文章
Code Arena全球可用模型第一！智谱GLM-5.2上线并开源
智谱上线并开源GLM-5.2，在Code Arena等平台表现优异，长任务跑分出色，架构有突破，支持100万token上下文，还引入控制功能。模型在常用编程智能体可用，适配国产算力平台，以MIT协议开源。
告别「利用率崩溃」：GIPO开启大模型强化学习高效训练新方法 | ICML 2026
树根科技与三一集团团队联合提出 GIPO 算法，在机器人操控及大语言/视觉动作模型强化学习训练中，缓解了策略滞后痛点，改善了 PPO 硬截断引发的‘利用率崩溃’问题。介绍了 GIPO 算法原理、优势及实验结果。
把 RAG 做成主流的公司，现在开始“做空”RAG 了
向量数据库开创者 Pinecone 宣布 RAG 时代结束，推出面向 Agent 的知识引擎 Nexus。它认为当前 RAG 模式脆弱、缓慢且昂贵，提出“知识编译”概念，称能提升任务完成率、降低 token 开销，虽面临质疑，但方向明显。
Meta发布Muse Spark，MSL的首份答卷！Alexandr Wang通过了吗？
Meta发布Muse Spark，是MSL首个模型，经九个月技术栈重构，效率优先。它有原生多模态推理能力，Contemplating模式处理复杂查询，安全评估突出，产品功能升级，商业化转向明显，正逐步在Meta应用推出。
跳过88%专家，保住97%性能！MoE推理的正确玩法| CVPR’26
多模态大模型走向大规模，MoE架构虽降低计算开销，但推理成本仍高。香港科技大学等团队提出MoDES，它是training - free动态专家跳过框架，能跳过88%专家还保留97%性能，推理速度提升2倍。
清华联手千问重塑归一化范式，让 Transformer 回归「深度」学习
Pre - Norm和Post - Norm是Transformer架构中稳定信号流的关键范式，但面临权衡取舍。近日，清华黄高团队联合千问团队提出SiameseNorm，构建参数共享的平行通路，实现稳定训练并提升性能。
离GPT-5最近的一次！中国1万亿参数开源巨兽突然爆火
月之暗面发布全新模型Kimi K2 Thinking，自称开源「思考Agent模型」。它参数约1万亿，性能亮眼，碾压GPT - 5等，能连续调200 - 300次工具，已上线并开源API和权重，开发者可试用。
Airbnb 的 Mussel V2：下一代的键值存储，以统一流和批处理
Airbnb工程团队推出Mussel v2，对内部键值引擎彻底重构，统一流和批处理，简化运维、扩展工作负载。它结合NewSQL后端与Kubernetes控制平面，解决了v1的局限，迁移虽有挑战但成功完成。
NeurIPS 2025 Spotlight | 条件表征学习：一步对齐表征与准则
文章指出传统表征学习处理图片和商品信息时存在局限，针对性有监督训练成本高，多模态大模型使用成本也需考虑。为此提出即插即用的条件表征学习方法 CRL，实验显示其在下游任务表现优异。
超越RAG，DRAG让LLM准确率飙升45.5%，问题越复杂能力越强
RAG技术虽能让LLM检索资料生成答案，但存在短板，听不懂话里有话。DRAG方法应运而生，有DRA和RSC两大法宝，经对比实验，它在多任务上领先，准确率大幅提升，计算开销小。