CANN/asc-devkit量化后处理设置

CANN/asc-devkit量化后处理设置 asc_set_l0c2gm_quant_post【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√功能说明对QUANT_POST寄存器中的值进行设置, QUANT_POST是一个64bit的寄存器存储Fixpipe后处理阶段量化信息。 其中各bit含义如下其中各种量化模式的说明可见asc_copy_l0c2l1中对各种量化模式的说明bit范围含义4:0在QS162S4_POSTQF162S4_POST和SHIFT2S4_POST量化模式中表示为s5中的偏移量。8:0在QS162B8_POSTQF162B8_POST和SHIFT2B8_POST量化模式中表示s9中的偏移量或在QS162S16_POSTQF162S16_POST和SHIFT2S16_POST量化模式中表示s17偏移量中的低9位。9在QS162B8_POSTQF162B8_POST和SHIFT2B8_POST量化模式中用于表示量化结果是否为有符号的。31:13在QS162B8_POSTQF162B8_POSTQS162S4_POSTQF162S4_POSTQS162S16_POSTQF162S16_POST量化模式中表示M3。不能为INF/NAN。39:32在QS162S16_POSTQF162S16_POSTSHIFT2S16_POST和SHIFT2S32_POST量化模式中表示s17偏移量中的高8位.44:40在SHIFT2S4_POSTSHIFT2B8_POSTSHIFT2S16_POST和SHIFT2S32_POST量化模式中表示位移值。函数原型__aicore__ inline void asc_set_l0c2gm_quant_post(uint64_t config)参数说明参数名输入/输出描述config输入待设置的寄存器值。返回值说明无流水类型PIPE_S约束说明无调用示例const uint64_t MASK_8_0 0x1FF; const uint64_t MASK_BIT9 0x200; const uint64_t MASK_31_13 0xFFFFE000; uint64_t field_8_0 0x1AB; uint64_t bit9 1; uint64_t field_31_13 0x000EF; uint64_t config 0; config (config ~MASK_8_0) | (field_8_0 MASK_8_0); config (config ~MASK_BIT9) | ((bit_99) MASK_BIT9); config (config ~MASK_31_13) | (field_31_13 MASK_31_13); asc_set_l0c2gm_quant_post(config);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考