搜索：大模型轻量化

「大模型轻量化」共找到 9190 篇相关文章

The Batch: 863 ｜推理提高了碳排放

新研究量化推理模型时代提供更优答案的环境成本，研究人员估算14个开源权重的大模型碳排放，发现推理与排放存在权衡关系，还指出战略性部署可降低排放。

本文介绍清华系计算创业公司是石科技，其93年创始人闫博文不囤算力仍拿下大模型明星公司订单。团队技术实力强，3次获戈登·贝尔奖。公司构建全栈能力，为多领域提供服务，未来想以算力赋能各行业。

哈工大、中科院等提出TrajSelector框架，让推理模型‘倾听内心独白’。它利用模型隐藏状态，用0.6B轻量级验证器实现比7B裁判模型更精准选择，在数学竞赛基准测试中表现出色，还能离线筛选数据，但在开放域问答有难题。

Inception Labs推出基于扩散技术的大语言模型Mercury，它突破自回归模型限制，生成速度快，还解决了难以回头调整的问题。实测显示其代码生成速度比传统工具最多快10倍，且有强大纠错能力，但面临与当前CI能力不匹配问题。

清华大学陈键飞团队提出针对BlackWell架构的SageAttention3，实现5倍于FlashAttention的推理加速，首次支持8比特训练。在多种大模型上保持端到端精度，代码将分别于6、7月开源。

第八届GAIR全球人工智能与机器人大会世界模型分论坛上，五位青年学者围绕世界模型展开精彩演讲，话题涵盖通用感知、三维技术等。他们的研究为世界模型领域带来不同启发，目前该领域研究尚处起步阶段，共识未形成。

上交大与 vivo 团队提出 C²FG 方法，针对当前 diffusion 模型缺稳定可控生成机制问题，通过 score 差异实现动态引导控制。实验显示，该方法能提升多维度指标，改进生成分布，揭示生成机制新方向。

多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。

微软研究团队提出实用方案，用4B参数的微型模型Terminus - 4B替换昂贵顶配大模型接管终端执行任务，采用SFT和RL策略打造子智能体，经测试效果良好，节省Token消耗。

香港科技大学KnowComp实验室与香港华为理论部提出AutoSchemaKG框架，可自主构建知识图谱，无需预定义模式。该系统利用大模型提取知识三元组并归纳模式，构建了ATLAS系列知识图谱，经测试表现优异。