CANN/catlass Gemm/Block类模板概述

Gemm/Block 类模板概述【免费下载链接】catlass本项目是CANN的算子模板库提供NPU上高性能矩阵乘及其相关融合类算子模板样例。项目地址: https://gitcode.com/cann/catlassAPI 清单blockMmad清单组件描述block_mmad基础模板包含BlockMmadblock_mmad_pingpongBlockMmad偏特化实现pingpong矩阵乘swizzle清单组件描述block_swizzleswizzle基本方法介绍GemmIdentityBlockSwizzleGemm算子基础swizzle策略API 拆解blockMmad封装了Block层的mmad计算矩阵乘计算对应于昇腾NPU的一个AI Core上的计算。 通过模板参数BlockMmad_接收矩阵计算中的Shape特征尺寸、Layout数据排布如行优先、列优先排布与DType数据类型方面的信息。命名空间为Catlass::Gemm::Block包含如下核心成员类型名称功能构造函数BlockMmad()通常包含初始化buffer、Event ID插入流水间同步setFlag析构函数~BlockMmad()通常包含插入流水间同步waitFlag函数void operator()执行一个block任务块的矩阵乘计算【免费下载链接】catlass本项目是CANN的算子模板库提供NPU上高性能矩阵乘及其相关融合类算子模板样例。项目地址: https://gitcode.com/cann/catlass创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考