CANN/asc-devkit:原子与操作API文档

CANN/asc-devkit:原子与操作API文档 asc_atomic_and【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品不支持Atlas A2 训练系列产品/Atlas A2 推理系列产品不支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明对Unified Buffer或Global Memory上address的数值与指定数值val进行原子与操作即将address数值与val的结果赋值到Unified Buffer或Global Memory上。函数原型inline int32_t asc_atomic_and(int32_t *address, int32_t val)inline uint32_t asc_atomic_and(uint32_t *address, uint32_t val)inline int64_t asc_atomic_and(int64_t *address, int64_t val)inline uint64_t asc_atomic_and(uint64_t *address, uint64_t val)参数说明表1参数说明参数名输入/输出描述address输出Unified Buffer或Global Memory的地址。val输入源操作数。不同数据类型支持的内存范围说明如下表2不同数据类型支持的内存范围参数数据类型支持的内存空间int32_t、uint32_tUnified Buffer、Global Memoryint64_t、uint64_tGlobal Memory返回值说明Unified Buffer或Global Memory上的初始数据。约束说明原子操作保证对同一地址的读改写过程具有原子性但不保证多个线程之间的执行顺序。对于依赖接口返回值判断线程先后顺序的场景结果可能随线程调度变化而不同。需要包含的头文件使用该接口需要包含simt_api/device_atomic_functions.h头文件。#include simt_api/device_atomic_functions.h调用示例示例场景为多个线程根据各自检测结果清除共享状态字中的某些bit使用asc_atomic_and接口保证不同线程清除不同bit时不会覆盖彼此的修改。输入参数说明如下名称说明flagsGlobal Memory中的共享状态位。clear_bits每个元素表示需要清除的bitkernel内部会转换为AND掩码。n掩码数量。核心代码实现如下SIMT编程场景__global__ __launch_bounds__(256) void clear_status_bits(uint32_t *flags, uint32_t *clear_bits, uint32_t n) { uint32_t idx blockIdx.x * blockDim.x threadIdx.x; if (idx n) { return; } uint32_t mask ~clear_bits[idx]; asc_atomic_and(flags, mask); }SIMD与SIMT混合编程场景SIMD与SIMT混合编程场景需要显式使用地址空间限定符表示地址空间__gm__表示Global Memory内存空间__ubuf__表示Unified Buffer内存空间。__simt_vf__ __launch_bounds__(1024) inline void clear_status_bits(__gm__ uint32_t *flags, __gm__ uint32_t *clear_bits, uint32_t n) { uint32_t idx blockIdx.x * blockDim.x threadIdx.x; if (idx n) { return; } uint32_t mask ~clear_bits[idx]; asc_atomic_and(flags, mask); }输出结果示例如下flags before: 0xF clear_bits: 0x2, 0x4 flags after: 0x9 // 表明bit1和bit2被并发清除【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考