asc_atomic_sub【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品xAtlas A2 训练系列产品/Atlas A2 推理系列产品xAtlas 200I/500 A2 推理产品xAtlas 推理系列产品AI CorexAtlas 推理系列产品Vector CorexAtlas 训练系列产品x功能说明对Unified Buffer或Global Memory上的数据与指定数据执行原子减操作即在这些内存区域的数据中减去指定数据。函数原型inline int32_t asc_atomic_sub(int32_t *address, int32_t val)inline uint32_t asc_atomic_sub(uint32_t *address, uint32_t val)inline float asc_atomic_sub(float *address, float val)inline int64_t asc_atomic_sub(int64_t *address, int64_t val)inline uint64_t asc_atomic_sub(uint64_t *address, uint64_t val)inline half2 asc_atomic_sub(half2 *address, half2 val)inline bfloat16x2_t asc_atomic_sub(bfloat16x2_t *address, bfloat16x2_t val)参数说明表 1参数说明参数名输入/输出描述address输出Unified Buffer或Global Memory的地址。val输入源操作数。不同数据类型支持的内存范围说明如下表 2不同数据类型支持的内存范围参数数据类型支持的内存空间int32_t、uint32_t、float、half2、bfloat16x2_tUnified Buffer、Global Memoryint64_t、uint64_tGlobal Memory返回值说明Unified Buffer或Global Memory上的初始数据。约束说明无需要包含的头文件使用除half2、bfloat16x2_t类型之外的接口需要包含simt_api/device_atomic_functions.h头文件使用half2类型接口需要包含simt_api/asc_fp16.h头文件使用bfloat16x2_t类型接口需要包含simt_api/asc_bf16.h头文件。#include simt_api/device_atomic_functions.h#include simt_api/asc_fp16.h#include simt_api/asc_bf16.h调用示例SIMT编程场景__global__ __launch_bounds__(1024) void KernelAtomicSub(float* dst, float* src) { int idx threadIdx.x blockIdx.x * blockDim.x; asc_atomic_sub(dst idx, src[idx]); }SIMD与SIMT混合编程场景SIMD与SIMT混合编程场景需要显式使用地址空间限定符表示地址空间__gm__表示Global Memory内存空间__ubuf__表示Unified Buffer内存空间。__simt_vf__ __launch_bounds__(1024) inline void KernelAtomicSub(__gm__ float* dst, __gm__ float* src) { int idx threadIdx.x blockIdx.x * blockDim.x; asc_atomic_sub(dst idx, src[idx]); }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
CANN/asc-devkit原子减法操作
asc_atomic_sub【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品xAtlas A2 训练系列产品/Atlas A2 推理系列产品xAtlas 200I/500 A2 推理产品xAtlas 推理系列产品AI CorexAtlas 推理系列产品Vector CorexAtlas 训练系列产品x功能说明对Unified Buffer或Global Memory上的数据与指定数据执行原子减操作即在这些内存区域的数据中减去指定数据。函数原型inline int32_t asc_atomic_sub(int32_t *address, int32_t val)inline uint32_t asc_atomic_sub(uint32_t *address, uint32_t val)inline float asc_atomic_sub(float *address, float val)inline int64_t asc_atomic_sub(int64_t *address, int64_t val)inline uint64_t asc_atomic_sub(uint64_t *address, uint64_t val)inline half2 asc_atomic_sub(half2 *address, half2 val)inline bfloat16x2_t asc_atomic_sub(bfloat16x2_t *address, bfloat16x2_t val)参数说明表 1参数说明参数名输入/输出描述address输出Unified Buffer或Global Memory的地址。val输入源操作数。不同数据类型支持的内存范围说明如下表 2不同数据类型支持的内存范围参数数据类型支持的内存空间int32_t、uint32_t、float、half2、bfloat16x2_tUnified Buffer、Global Memoryint64_t、uint64_tGlobal Memory返回值说明Unified Buffer或Global Memory上的初始数据。约束说明无需要包含的头文件使用除half2、bfloat16x2_t类型之外的接口需要包含simt_api/device_atomic_functions.h头文件使用half2类型接口需要包含simt_api/asc_fp16.h头文件使用bfloat16x2_t类型接口需要包含simt_api/asc_bf16.h头文件。#include simt_api/device_atomic_functions.h#include simt_api/asc_fp16.h#include simt_api/asc_bf16.h调用示例SIMT编程场景__global__ __launch_bounds__(1024) void KernelAtomicSub(float* dst, float* src) { int idx threadIdx.x blockIdx.x * blockDim.x; asc_atomic_sub(dst idx, src[idx]); }SIMD与SIMT混合编程场景SIMD与SIMT混合编程场景需要显式使用地址空间限定符表示地址空间__gm__表示Global Memory内存空间__ubuf__表示Unified Buffer内存空间。__simt_vf__ __launch_bounds__(1024) inline void KernelAtomicSub(__gm__ float* dst, __gm__ float* src) { int idx threadIdx.x blockIdx.x * blockDim.x; asc_atomic_sub(dst idx, src[idx]); }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考