「大模型压缩」共找到 9204 篇相关文章
清华新框架让大模型学会「精读略读」！实现12倍端到端加速，基准评分翻倍
清华等团队提出全新框架RAM，受人类阅读认知启发，将“精读+略读”混合策略引入上下文压缩，突破现有方法效率瓶颈，在多任务上表现出色，实现12倍端到端加速，为长上下文LLM部署提供新范式。
狂揽22.6k星！这个开源工具让你一键调用100+大模型，开发效率直接起飞！
LiteLLM是BerriAI团队开发的开源工具，通过标准化OpenAI格式API接口，能无缝调用100+主流大语言模型。有核心功能亮点，适用于多场景，还给出上手步骤，并与同类项目对比。
小红书发布FireRedChat：首个可私有化部署的全双工大模型语音交互系统
小红书智创音频团队推出业内首个支持私有化部署的全双工大模型语音交互系统FireRedChat，可将半双工链路升级为全双工，提供级联与半级联服务，在多指标领先，让AI有“人感”。
解决算力瓶颈，给多模态瘦身！Token压缩完整图谱与选型指南
给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余，提升训练与推理效率。北大等团队剖析其全貌，给出完整图谱与选型指南，还揭示了未来演进路径。
AAAI 2026 Oral | 拒绝「一刀切」！AdaMCoT：让大模型学会「看题下菜碟」，动态选择最佳思考语言
多语言大模型面临语言选择难题，现有跨语言推理方法存在缺陷。新加坡研究团队推出AdaMCoT框架，通过自适应路由机制动态选语言推理，提升跨语言事实推理准确性与一致性，效果超越传统方法。
从被吐槽“套壳中国大模型”到自研封神！首次揭秘Cursor背后极速代码Agent如何对标GPT5.1 Codex，生成效率提4倍
10月29日，Cursor 2.0发布Composer大模型，效率约为其他模型四倍。开发者分享其成极速代码Agent方法，如强化学习、平衡训练与推理负载等，还提及未来方向及研发反思。
定位大模型「作弊」神经回路！新研究首次揭示：虚假奖励如何精准激活第18-20层记忆
此前学术界发现大模型用虚假奖励训练也能提升准确率，背后微观机制是黑盒。南科大等团队深度拆解，定位到关键记忆节点，发现‘困惑度悖论’，还能操控记忆，成果对评估、检测和去污染有意义。
硬核拆解大模型，从 DeepSeek-V3 到 Kimi K2 ，一文看懂 LLM 主流架构
本文详细列举 8 个主流大语言模型，硬核拆解架构设计与革新思路，介绍架构演进趋势。如 DeepSeek-V3 的 MLA 与 MoE 技术，OLMo 2 的归一化策略，Gemma 3 的滑动窗口注意力机制等。
ACL 2026 综述：从事后解释到内生解释，大模型内生可解释性的前沿进展
大语言模型强大但解释性成问题，过去多事后解释，现更多研究者转向内生可解释性。ACL 2026 接收的综述论文梳理相关代表方法，总结为五类核心设计范式，指出该方向面临挑战但趋势清晰。
全球首个 IPO 大模型公司出现！智谱携 500 亿估值开启招股、70% 募资投研发，1 月 8 日登陆港股
12月30日，智谱华章启动港股IPO招股，预计1月5日结束，1月8日挂牌。以每股116.20港元计，募资约43亿港元，市值超511亿港元。70%募资用于大模型研发，还引入多家基石投资者。