「轻量化」共找到 351 篇相关文章
vivo自研蓝河操作系统内核开源！Rust开发新机遇来了
vivo宣布开源自研蓝河操作系统内核，它由Rust语言编写，解决了传统C语言难题，更轻量化、对硬件要求低且支持多架构。此次开源不仅是国产操作系统突破创新，还将推动Rust生态发展。
GitHub 2.5万星！日本开发者打造的Hono火了：定义后React时代微框架的轻量未来
本周，Web 框架 Hono 在 X 官宣，GitHub 获 25000 星标。它由日本开发者 Yusuke Wada 于 2021 年创建，基于 Web 标准，可在多运行时运行，或指明后 React 时代 Web 框架方向。
【博客转载】CUDA Vectorized Memory Access （文末送书）
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽，实现朴素自定义设备内存拷贝函数，对比不同数据类型、大小及方法的性能，得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。
DeepSeek刚提到FP8，英伟达就把FP4精度推向预训练，更快、更便宜
DeepSeek提及针对国产芯片的FP8量化设计，引发对大模型量化策略关注。不久后英伟达发力低精度量化，将NVFP4策略拓展到预训练阶段，其方案能解决核心挑战，实验证明NVFP4在大规模训练中可行。
挑战 1 比特！ETH Zürich 秦浩桐：如何把大模型「塞进」小设备？| IJCAI 2026
IJCAI 2026大会上，秦浩桐给出创新解法，挑战无需重训的“后训练量化”极限，将庞大的LLM强行压缩至极端的1比特与2比特。其团队的BiLLM与SqueezeLLM打破了后训练量化魔咒，还指出极低比特量化的三大挑战。
本周 5 个火火火的Github开源项目，太香了！
文章介绍了本周5个热门GitHub开源项目。有能生成城市地图海报的MapToPoster，离线翻译工具Argos Translate，终端历史增强神器Atuin，轻量超高效版OpenClaw的PicoClaw，以及开源轻量级文本转语音工具Pocket TTS。
9位顶级研究员连讲3晚，华为盘古大模型底层研究大揭秘
华为诺亚方舟实验室成果颇丰，4月开发千亿级通用语言大模型Pangu Ultra，5月推出稀疏大语言模型Pangu Ultra MoE。5月28 - 30日，机器之心联合举办分享会，9位研究员揭秘量化、剪枝等关键技术突破。
1.58bit不输FP16！微软推出全新模型蒸馏框架，作者全是华人
微软推出蒸馏框架BitNet Distillation，实现几乎无性能损失的模型量化。它含三阶段，经实验在多下游任务表现近全精度模型，降内存开销、提推理速度，作者全是微软研究院华人。
大模型的第一性原理：（二）信号处理篇
本文从信号处理角度解读大模型原论文，探讨语义向量化原理，分析 Transformer 与 Granger 因果关系。指出大模型输入 Token 语义嵌入是将自然语言处理转化为信号处理问题，向量化与信号处理、信息论联系紧密。
通过查看GPU Assembly分析CUDA程序
文章是关于通过分析SASS代码提高内存受限CUDA程序性能的笔记。以向量复制程序为例，对比普通和向量化版本，通过查看SASS代码，解释向量化版本性能更快的原因是加载/存储数据量更大、启动块数更少。