产品应用8
腾讯混元:端侧小模型HY-1.8B-2Bit问世
量子位
AI 摘要
腾讯混元团队推出HY-1.8B-2Bit模型,参数量0.3B、内存600MB,适合端侧部署。采用产业级2Bit量化,生成速度提升,通过多种策略提升能力,未来将探索强化学习与模型蒸馏技术。
阅读原文 · 量子位
0.3B参数,600MB内存!腾讯混元实现产业级2Bit量化,端侧模型小如手机App
腾讯混元团队推出面向消费级硬件的“极小”模型HY-1.8B-2Bit,参数量仅0.3B,内存占用600MB。它基于产业级2Bit端侧量化方案,生成速度提升,还通过多种方法提升能力,未来将探索新技术缩小与全精度模型差距。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文9
ACL两篇技能论文杀疯了
本文整理六大2026顶会共460篇高引机器学习论文,详细介绍ACL下两篇聚焦技能拆解复用的高引论文,给出效果数据与论文链接,开放论文合集获取。
PaperAgent
新闻资讯8
AI OS元周来袭 谁家AI手机更能打
苹果、OV、字节、华为、小米等多家厂商密集发布更新AI OS,本周被称为"AI OS元周",本文对比各家AI OS在上下文记忆、Agent能力、系统架构的差异,分析不同路线优劣,帮助读者选适合的AI手机。
鲸选AI
推荐文章9
OpenAI科学家:聪明AI也控不住人类
本文是科技媒体The Information对OpenAI研究科学家Noam Brown的深度访谈,围绕AI Agent、推理模型、AI安全、OpenAI研发战略展开,披露了Hugging Face多Agent事件细节,分享了诸多反直觉的前沿技术观点,信息密度极高。
AI科技大本营
推荐文章9
万字拆解GPT-6 Astra与循环Transformer
著名技术博主Sebastian Raschka针对GPT-6 Astra的循环Transformer设计与隐藏思维链争议,万字详解技术细节,分享Astra实测表现,梳理循环Transformer技术演进,澄清相关误解。
机器之心