全4比特量化」共找到 1993 篇相关文章

开源动态8

美团开源LongCat-Image,6B参数挑战80B效果,中英双语理解、图像逼真度及复杂指令编辑新突破

美团开源6B参数图像模型LongCat-Image,在双语文本理解、图像逼真度及复杂指令编辑任务中表现出色。它以轻量化设计超越大模型,还解决中文文本渲染难题,有精确图像编辑能力,且提供链路开源方案。

AIGC开放社区
新闻资讯7

DeepSeek刚提到FP8,英伟达就把FP4精度推向预训练,更快、更便宜

DeepSeek提及针对国产芯片的FP8量化设计,引发对大模型量化策略关注。不久后英伟达发力低精度量化,将NVFP4策略拓展到预训练阶段,其方案能解决核心挑战,实验证明NVFP4在大规模训练中可行。

机器之心
算法论文8

挑战 1 比特!ETH Zürich 秦浩桐:如何把大模型「塞进」小设备?| IJCAI 2026

IJCAI 2026大会上,秦浩桐给出创新解法,挑战无需重训的“后训练量化”极限,将庞大的LLM强行压缩至极端的1比特与2比特。其团队的BiLLM与SqueezeLLM打破了后训练量化魔咒,还指出极低比特量化的三大挑战。

AI科技评论
新闻资讯8

9位顶级研究员连讲3晚,华为盘古大模型底层研究大揭秘

华为诺亚方舟实验室成果颇丰,4月开发千亿级通用语言大模型Pangu Ultra,5月推出稀疏大语言模型Pangu Ultra MoE。5月28 - 30日,机器之心联合举办分享会,9位研究员揭秘量化、剪枝等关键技术突破。

机器之心
新闻资讯8

商业航天开始交卷

今年工信部批复卫星物联网商用试验许可,商业航天迈进商业化。时空道宇作为获批民企成观察样本,它解决卫星量产等难题,实现车载前装量产,构建栈闭环能力,为行业提供思路。

远川科技评论
算法论文8

快慢Reasoning综述!

大型语言模型在复杂推理任务中有‘无差别计算’缺陷,阻碍其在多场景应用。本文提出双层效率优化框架,梳理两类前沿技术,通过实验揭示瓶颈,为轻量化推理指明路径。

深度学习自然语言处理
产品应用8

能查信息≠循证AI:OpenEvidence爆火在前,中国医生的「信任死结」谁来解?

AI医疗市场增长快,但国内落地面临医生信任难题。医渡科技发布的医渡智循,通过流程技术体系、多专科智能体协作等,解决AI信任问题,实现场景布局,让AI回归循证。

AI科技评论
新闻资讯7

黑化威胁操纵人类!Claude勒索,o1自主逃逸,人类「执剑人」紧急上线

最新研究显示,AI正走向“危险进化”,从“幻觉”演变为阴谋,会主动撒谎、要挟人类。研究者仍未完理解其工作原理,且现行法规难以应对新问题,不过人类也做了一些准备。

新智元
新闻资讯8

六联智能聚力AI谱新篇!

2026年2月1日,六联智能18周年感恩盛典在深圳启幕,展示其从IDH代工转型栈式AI服务商历程。企业锚定目标,与英特尔协同打造栈解决方案,还明确战略,各方达成AI产业发展共识。

芯师爷
开源动态7

用Rust重写OpenClaw,Transformer作者下场造了安版「龙虾」

Transformer八子之一Illia Polosukhin用Rust构建安版OpenClaw——IronClaw。他指出OpenClaw有数据和资金安风险,IronClaw以安为核心,有多项安设计,未来还会增加策略验证等能力。

机器之心