「向量化Padding」共找到 822 篇相关文章
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
京东发布业界首个/开源/高完成度/轻量化「通用AI智能体产品」。
京东跨界推出业界首个开源高完成度轻量化通用智能体产品JoyAgent - JDGenie。它开箱即用、轻量可自部署，内置多种子智能体与工具，还给出二次开发示例，有多层次多模式思维等创新点。
AMS | 西工大向锦鹏、宋述芳等：一种用于伴随方程求解的物理约束图神经网络
伴随方法用于高维优化问题，但求解伴随方程代价大。本文提出物理约束图神经网络(ADJ - PCGN)，构建流场解与伴随向量映射模型，有精度和泛化性，能加速优化，方便嫁接求解器。
28岁华人执掌1.85万亿科技巨头AI大权！一觉醒来，图灵奖得主也要向他汇报
Meta超级智能实验室一拆四，28岁华人Alexandr Wang出任负责人获扎克伯格力挺。内部信强调‘超级智能即将到来’，宣布实验室拆分，AGI Foundations团队解散成员分流，Yann LeCun地位降级。
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
AI 领域新动向！持续思考模型CTM横空出世：AI 向生物智能迈出重要一步
Sakana AI 推出新型 AI 模型 CTM，重新引入「时间」和「神经元动态」到 AI 计算核心。它有诸多创新，在迷宫探索、图像识别等任务表现出色，虽有训练慢等不足，但为 AI 向生物智能迈进提供新思路。
LightX2V fp4 quant kernel代码笔记
这是关于 LightX2V 里 `lightx2v_kernel` 做 FP4 量化 GEMM 的读码笔记，解释接口和约束、kernel 关键路径等问题，还介绍 NVFP4 和 MX-Formats 量化原理、代码实现，以及 LightX2V 项目中的实际使用。
AI 本地跑？Google 新开源模型上线，本地量化后占用不到 200MB 内存，支持百余语言
Google DeepMind推出开源嵌入模型EmbeddingGemma，专为本地设备高效运行设计。它用Matryoshka方法和量化感知训练，提升效率。在MTEB测试中成绩佳，支持百余种语言，内存占用少，已集成多种工具。
从 Copilot 到 通用 Agent ： 阿里在 AI Coding 上的应用和挑战
阿里巴巴代码平台负责人向邦宇在 QCon 大会分享阿里智能研发大模型应用与挑战。介绍探索成果，如代码补全、审查等功能；指出面临用户需求理解、领域知识整合等难题；还提及技术进步带来新机遇，促使从 Copilot 向 Agent 转变。
是的，LeCun要向28岁的Alexandr Wang汇报！这是Meta新AI团队的一些独家内部消息
Meta强势挖人组建新AI研究部门MSL，引发诸多关注与猜测。Meta员工出面澄清一些说法，还透露人员调动信息，如Yann LeCun向Alexandr Wang汇报。此外，Meta内部面临动荡，有员工抱怨改革侵蚀公司文化，阻碍AI发展。