「轻量化大模型」共找到 7825 篇相关文章
Meta重返开源！30B本地Agent塞进24GB显存，LeCun火速力挺
Meta重返开源，推出开源模型Muse Glimmer，参数30B，经量化后一块24GB消费级显卡就能跑通，拥有完整Agent能力。Meta还预告Muse Spark 1.2开放权重版本将发布，扎克伯格称会恢复发布部分开放模型。
领先于Transformer！新架构首个1200万上下文模型SubQ，成本仅Opus的5%
Subquadratic公司提出SubQ模型，核心是SSA亚二次稀疏注意力机制。该机制改变注意力计算分配，让模型真正读长文档。SubQ是首个有1200万token上下文窗口的前沿模型，成本低、速度快，有望革新大模型扩展路径。
TACL 综述 | 别只卷架构了——长文本模型的能力天花板，其实是数据决定的
该 TACL 综述首次从数据视角审视长上下文语言模型，指出长上下文能力本质是数据驱动。它建立分类体系，明确高质量长文数据条件，给出核心能力的数据配方与评估法，还整理数据集和基准，提出待解问题。
Jina Code Embeddings: 为高质量代码搜索而生的0.5B/1.5B向量模型
本文介绍了 Jina AI 开源的代码向量模型 `jina-code-embeddings`，含 0.5B 和 1.5B 规模，有 GGUF 量化版本。它性能顶尖，支持多任务与 15 种语言，还介绍了训练方案、使用方法等。
一场文心大模型的「AI马拉松」
2025 年模型能力至关重要，百度在基础模型研发持续投入。百度 AI Day 上，吴甜解读文心新模型技术，文心 X1 Turbo 推理强、成本低。百度技术体系完备，未来看好多模态与智能体，降成本促应用生态发展。
对话ACE Studio：做AI音乐、月收入200万美元，我们选了一条和Suno截然不同的路
ACE Studio 切入 AI 音乐市场，与 Suno 路径不同，从专业用户入手，月收入达 200 万美元。其模型轻且快，还自建专家模型矩阵。商业模式采用开源免费吸引用户，闭源变现。认为 AI 音乐个性化是关键，未来将改变音乐产业。
港科提出新算法革新大模型推理范式：随机策略估值竟成LLM数学推理「神操作」
香港科技大学联合团队提出 ROVER 算法，跳过传统强化学习推理的策略迭代循环。它在多项数学推理基准上超越现有方法，在高难度任务中大幅提高 pass@1 和 pass@256，且提升推理多样性，更轻量。
世界模型混战，Momenta率先冲刺IPO
当下世界模型是AI领域热门且混乱的概念，主流路线有四类。Momenta的R7世界模型已量产，其CEO定位公司为物理AI基座模型构建者。Momenta率先冲刺IPO，商业模式正转型，为后续玩家提供价值评估体系。
ACL 2025｜为什么你设计的 Prompt 会成功？新理论揭示大模型 Prompt 设计的奥秘与效能
英属哥伦比亚大学等团队剖析Prompt在LLM的CoT推理中调控模型内部信息流，构建量化Prompt搜索空间复杂度理论框架。研究解释提示有效的原因，提供设计高效提示词思路，实验验证理论框架。
MoE RL 实战：统一 FP8 全流程训练
SGLang RL 团队等实现 RL 全流程 FP8 训练与采样，消除训推不一致性。介绍 FP8 硬件基础、格式等，分析训练难点，定位 KL Loss 异常源于量化原理，验证其在 MoE 模型 RL 场景优势，指出模型规模与训推不一致的关联。