DataSyncBarrier(ISASI)【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明头文件路径为basic_api/kernel_operator_block_sync_intf.h。阻塞后续的指令执行直到所有之前的内存访问指令需要等待的内存位置可通过参数控制执行结束用于解决Scalar的内存依赖。函数原型template MemDsbT arg0 __aicore__ inline void DataSyncBarrier()参数说明表1模板参数说明参数名描述arg0模板参数表示需要等待的内存位置类型为MemDsbT可取值为• ALL等待GM和UB的访问指令不包括其他内存位置例如L0C Buffer、L1 Buffer。• DDR等待GM访问指令。• UB等待UB访问指令。• SEQ等待SEQ访问指令。返回值说明无约束说明等待的内存位置取值为ALL时只能等待GM和UB的访问指令不包括其他内存位置例如L0C Buffer、L1 Buffer。调用示例if (blockIdx 0) { // 先写入被依赖数据再通过DataSyncBarrier等待GM访问完成。 AscendC::WriteGmByPassDCacheT(reinterpret_cast__gm__ T *(srcGm) 1, DATA_VALUE); // DataSyncBarrierDDR阻塞后续GM写确保上一条GM写对其他核可见。 AscendC::DataSyncBarrierAscendC::MemDsbT::DDR(); // 最后写入同步标记block 1读到该标记后即可安全读取srcGm[1]。 AscendC::WriteGmByPassDCacheT(reinterpret_cast__gm__ T *(srcGm), SYNC_FLAG); } if (blockIdx 1) { while (true) { __gm__ T *addr const_cast__gm__ T *(srcGlobal.GetPhyAddr()); // 轮询GM第0个元素等待block 0写入同步标记。 T flagValue AscendC::ReadGmByPassDCacheT(addr); if (flagValue SYNC_FLAG) { // DataSyncBarrier保证同步标记之前的srcGm[1]写入已完成。 T dataValue AscendC::ReadGmByPassDCacheT(addr 1); AscendC::WriteGmByPassDCacheT(reinterpret_cast__gm__ T *(dstGm), 2 * dataValue); return; } } }完整样例请参考DataSyncBarrier接口样例。【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
CANN/asc-devkit DataSyncBarrier同步屏障API
DataSyncBarrier(ISASI)【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明头文件路径为basic_api/kernel_operator_block_sync_intf.h。阻塞后续的指令执行直到所有之前的内存访问指令需要等待的内存位置可通过参数控制执行结束用于解决Scalar的内存依赖。函数原型template MemDsbT arg0 __aicore__ inline void DataSyncBarrier()参数说明表1模板参数说明参数名描述arg0模板参数表示需要等待的内存位置类型为MemDsbT可取值为• ALL等待GM和UB的访问指令不包括其他内存位置例如L0C Buffer、L1 Buffer。• DDR等待GM访问指令。• UB等待UB访问指令。• SEQ等待SEQ访问指令。返回值说明无约束说明等待的内存位置取值为ALL时只能等待GM和UB的访问指令不包括其他内存位置例如L0C Buffer、L1 Buffer。调用示例if (blockIdx 0) { // 先写入被依赖数据再通过DataSyncBarrier等待GM访问完成。 AscendC::WriteGmByPassDCacheT(reinterpret_cast__gm__ T *(srcGm) 1, DATA_VALUE); // DataSyncBarrierDDR阻塞后续GM写确保上一条GM写对其他核可见。 AscendC::DataSyncBarrierAscendC::MemDsbT::DDR(); // 最后写入同步标记block 1读到该标记后即可安全读取srcGm[1]。 AscendC::WriteGmByPassDCacheT(reinterpret_cast__gm__ T *(srcGm), SYNC_FLAG); } if (blockIdx 1) { while (true) { __gm__ T *addr const_cast__gm__ T *(srcGlobal.GetPhyAddr()); // 轮询GM第0个元素等待block 0写入同步标记。 T flagValue AscendC::ReadGmByPassDCacheT(addr); if (flagValue SYNC_FLAG) { // DataSyncBarrier保证同步标记之前的srcGm[1]写入已完成。 T dataValue AscendC::ReadGmByPassDCacheT(addr 1); AscendC::WriteGmByPassDCacheT(reinterpret_cast__gm__ T *(dstGm), 2 * dataValue); return; } } }完整样例请参考DataSyncBarrier接口样例。【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考