量化人才」共找到 530 篇相关文章

推荐文章8

LightX2V fp4 quant kernel代码笔记

这是关于 LightX2V 里 `lightx2v_kernel` 做 FP4 量化 GEMM 的读码笔记,解释接口和约束、kernel 关键路径等问题,还介绍 NVFP4 和 MX-Formats 量化原理、代码实现,以及 LightX2V 项目中的实际使用。

GiantPandaLLM
开源动态8

AI 本地跑?Google 新开源模型上线,本地量化后占用不到 200MB 内存,支持百余语言

Google DeepMind推出开源嵌入模型EmbeddingGemma,专为本地设备高效运行设计。它用Matryoshka方法和量化感知训练,提升效率。在MTEB测试中成绩佳,支持百余种语言,内存占用少,已集成多种工具。

InfoQ
7

【博客转载】CUDA Vectorized Memory Access (文末送书)

文章展示如何用向量化内存访问提高CUDA函数有效内存带宽,实现朴素自定义设备内存拷贝函数,对比不同数据类型、大小及方法的性能,得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。

GiantPandaLLM
新闻资讯7

DeepSeek被曝融资20亿…可幻方一年就挣50亿啊?

DeepSeek被曝计划首次融资,目标估值超100亿美元,计划融资至少3亿美元。但此前多次融资传闻均被辟谣,且其母公司幻方量化盈利能力强。若融资,或为锚定股权价值、激励人才及获非财务价值。

量子位
新闻资讯7

DeepSeek刚提到FP8,英伟达就把FP4精度推向预训练,更快、更便宜

DeepSeek提及针对国产芯片的FP8量化设计,引发对大模型量化策略关注。不久后英伟达发力低精度量化,将NVFP4策略拓展到预训练阶段,其方案能解决核心挑战,实验证明NVFP4在大规模训练中可行。

机器之心
算法论文8

挑战 1 比特!ETH Zürich 秦浩桐:如何把大模型「塞进」小设备?| IJCAI 2026

IJCAI 2026大会上,秦浩桐给出创新解法,挑战无需重训的“后训练量化”极限,将庞大的LLM强行压缩至极端的1比特与2比特。其团队的BiLLM与SqueezeLLM打破了后训练量化魔咒,还指出极低比特量化的三大挑战。

AI科技评论
新闻资讯7

黄仁勋说的对!Meta绝密AGI梦之队曝光,44人天团一半来自中国

今早Meta超级智能实验室44人绝密名单曝光,50%成员来自中国,75%有博士学位。从机构看,40%来自OpenAI,20%出自DeepMind。此外,硅谷人才争夺战白热化,Meta为AGI投入巨资。

新智元
新闻资讯8

9位顶级研究员连讲3晚,华为盘古大模型底层研究大揭秘

华为诺亚方舟实验室成果颇丰,4月开发千亿级通用语言大模型Pangu Ultra,5月推出稀疏大语言模型Pangu Ultra MoE。5月28 - 30日,机器之心联合举办分享会,9位研究员揭秘量化、剪枝等关键技术突破。

机器之心
新闻资讯7

AMD苏姿丰公开怼扎克伯格!反对1亿年薪挖人,“使命感比钞票更重要“

AI人才争夺战激烈,Meta扎克伯格开1亿美元年薪挖人,AMD苏姿丰明确反对,称钱非最重要,使命感才是,还指出天价挖人会摧毁公司文化,AMD不靠此也吸引到人才

量子位
新闻资讯7

代码为刃 创意为甲,探索国产AI应用新路径 ——“算网杯”2025 AIGC开发者大赛圆满落幕

1月17日,“算网杯”2025 AIGC开发者大赛决赛在中国科大苏州高等研究院落幕。大赛受业界关注,吸引500余名开发者。以“探索国产AI应用新路径”为导向,成果丰富,发掘了人才与项目,为产业注入动能。

AIGC开放社区