asc_gather_datablock【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况产品是否支持Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√功能说明给定一个输入的矢量和一个地址偏移矢量根据偏移地址按照DataBlock的粒度将输入矢量收集到目的矢量中。函数原型高维切分计算__aicore__ inline void asc_gather_datablock(__ubuf__ uint16_t* dst, __ubuf__ uint16_t* src, __ubuf__ uint32_t* src_offset, uint16_t dst_repeat_stride, uint8_t dst_block_stride, uint8_t repeat) __aicore__ inline void asc_gather_datablock(__ubuf__ uint32_t* dst, __ubuf__ uint32_t* src, __ubuf__ uint32_t* src_offset, uint16_t dst_repeat_stride, uint8_t dst_block_stride, uint8_t repeat)同步计算__aicore__ inline void asc_gather_datablock_sync(__ubuf__ uint16_t* dst, __ubuf__ uint16_t* src, __ubuf__ uint32_t* src_offset, uint16_t dst_repeat_stride, uint8_t dst_block_stride, uint8_t repeat) __aicore__ inline void asc_gather_datablock_sync(__ubuf__ uint32_t* dst, __ubuf__ uint32_t* src, __ubuf__ uint32_t* src_offset, uint16_t dst_repeat_stride, uint8_t dst_block_stride, uint8_t repeat)参数说明参数名输入/输出描述dst输出目的操作数矢量的起始地址。src输入源操作数矢量的起始地址。src_offset输入每个Datablock在源操作数中的地址偏移。dst_repeat_stride输入目的操作数相邻迭代间相同DataBlock的地址步长。dst_block_stride输入目的操作数单次迭代内不同DataBlock间地址步长。repeat输入迭代次数。返回值说明无流水类型PIPE_V约束说明src_offset取值应保证src元素类型位宽对齐。src加上src_offset偏移后的地址不能超出Unified Buffer (UB)大小数据的范围。dst、src的起始地址需要32字节对齐。操作数地址重叠约束请参考通用地址重叠约束。调用示例constexpr uint64_t total_length 128; // total_length指参与计算的数据长度 __ubuf__ uint32_t src_offset[total_length * sizeof(uint32_t) / 32]; __ubuf__ uint32_t dst[total_length]; __ubuf__ uint32_t src[total_length]; asc_gather_datablock(dst, src, src_offset, 8, 1, 2); // src [1, 2, 3, ..., 126, 127, 128] 128个uint32_t类型数据 // src_offset [0, 32, 64, ..., 416, 448, 480] // dst [1, 2, 3, ..., 126, 127, 128]【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
CANN/asc-devkit:asc_gather_datablock函数
asc_gather_datablock【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况产品是否支持Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√功能说明给定一个输入的矢量和一个地址偏移矢量根据偏移地址按照DataBlock的粒度将输入矢量收集到目的矢量中。函数原型高维切分计算__aicore__ inline void asc_gather_datablock(__ubuf__ uint16_t* dst, __ubuf__ uint16_t* src, __ubuf__ uint32_t* src_offset, uint16_t dst_repeat_stride, uint8_t dst_block_stride, uint8_t repeat) __aicore__ inline void asc_gather_datablock(__ubuf__ uint32_t* dst, __ubuf__ uint32_t* src, __ubuf__ uint32_t* src_offset, uint16_t dst_repeat_stride, uint8_t dst_block_stride, uint8_t repeat)同步计算__aicore__ inline void asc_gather_datablock_sync(__ubuf__ uint16_t* dst, __ubuf__ uint16_t* src, __ubuf__ uint32_t* src_offset, uint16_t dst_repeat_stride, uint8_t dst_block_stride, uint8_t repeat) __aicore__ inline void asc_gather_datablock_sync(__ubuf__ uint32_t* dst, __ubuf__ uint32_t* src, __ubuf__ uint32_t* src_offset, uint16_t dst_repeat_stride, uint8_t dst_block_stride, uint8_t repeat)参数说明参数名输入/输出描述dst输出目的操作数矢量的起始地址。src输入源操作数矢量的起始地址。src_offset输入每个Datablock在源操作数中的地址偏移。dst_repeat_stride输入目的操作数相邻迭代间相同DataBlock的地址步长。dst_block_stride输入目的操作数单次迭代内不同DataBlock间地址步长。repeat输入迭代次数。返回值说明无流水类型PIPE_V约束说明src_offset取值应保证src元素类型位宽对齐。src加上src_offset偏移后的地址不能超出Unified Buffer (UB)大小数据的范围。dst、src的起始地址需要32字节对齐。操作数地址重叠约束请参考通用地址重叠约束。调用示例constexpr uint64_t total_length 128; // total_length指参与计算的数据长度 __ubuf__ uint32_t src_offset[total_length * sizeof(uint32_t) / 32]; __ubuf__ uint32_t dst[total_length]; __ubuf__ uint32_t src[total_length]; asc_gather_datablock(dst, src, src_offset, 8, 1, 2); // src [1, 2, 3, ..., 126, 127, 128] 128个uint32_t类型数据 // src_offset [0, 32, 64, ..., 416, 448, 480] // dst [1, 2, 3, ..., 126, 127, 128]【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考