「量化内核」共找到 278 篇相关文章
PyTorch博客翻译 Accelerating Generative AI Part III: Diffusion, Fast
这篇博客介绍用纯原生 PyTorch 技术将文本到图像的 diffusion 模型（特别是 Stable Diffusion XL）推理速度提升高达 3 倍的方法，讲解五种优化技术，还验证了方法在其他 diffusion 模型上的通用性和有效性。
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
揭秘 | 桥梁缺陷检测新突破：模型压缩42%，精度几乎不掉
全国公路桥梁超百万座，传统人工巡检效率低且有安全风险，现有深度学习检测模型体积大、计算量高。研究团队提出LBSD - YOLO网络，通过创新实现轻量化，实验显示模型瘦身但性能不减，有重要应用价值。
王梦迪、丛乐团队Science Earth：当组织本身开始涌现，全球科学能力第一次在同一张网上互相发现
王梦迪、丛乐团队在arXiv发布预印本论文，推出面向AI原生科学发现的行星级操作系统Science Earth，它能连接全球科学能力。文中通过两个案例展示其作用，并介绍协调内核EACN，还公开了论文、代码与网络。
沈亦晨的九年：从MIT一间实验室到港交所大堂
2026年4月28日，曦智科技在港交所敲钟，股价表现亮眼。创始人沈亦晨从MIT实验室起步，带领公司历经九年发展，在光计算和光互连领域取得诸多成果，虽亏损但受市场热捧，光计算产业也吸引大厂入局。
独家对话前华为天才少年李元庆：首款规模化具身智能产品中国造！多机异构是未来方向
前华为天才少年李元庆加入乐享科技，负责创新业务与技术攻关。他指出世界首个体量化具身智能产品可能在中国出现，多机异构是未来方向，还谈具身智能发展现状、难题及应对策略，分享未来规划与建议。
美团开源LongCat-Image，6B参数挑战80B效果，中英双语理解、图像逼真度及复杂指令编辑新突破
美团开源6B参数图像模型LongCat-Image，在双语文本理解、图像逼真度及复杂指令编辑任务中表现出色。它以轻量化设计超越大模型，还解决中文文本渲染难题，有精确图像编辑能力，且提供全链路开源方案。
MOE RL实战：统一FP8全流程训练
SGLang RL团队等联合完成工作，实现RL中全流程FP8训练与采样。介绍FP8训练硬件基础、格式、scale选择等，指出训练难点，分析KL Loss异常归因，验证其在MoE模型RL应用效果，还探究模型规模对训推不一致性的影响。
爆火的AI三宫格图片，比我们的生活更像电影。
最近三宫格AI图片爆火，起初是唯美电影感写真配文艺台词，后各地文旅、宠物赛道等画风渐趋抽象。其制作简单，用豆包的Seedream 4.0即可，文中还给出Prompt模板，该现象内核是将生活电影化。
全新 AI 消息模型：Apache RocketMQ 如何让 AI 应用拥抱事件驱动架构？
AIGC浪潮下，大语言模型重塑应用开发范式，开发者构建AI应用面临诸多挑战，需可靠高效的异步通信机制。Apache RocketMQ在AI时代演进，有轻量化通信与智能化资源调度两大创新，还介绍了多场景实践。