DataType【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√模块导入from ge.graph import DataType功能说明DataType 是一个继承自 IntEnum 的枚举类用于定义张量支持的所有元素数据类型。每个枚举值对应一个整数值与底层 C 接口中的数据类型定义保持一致。枚举值列表枚举名值说明DT_FLOAT0单精度浮点型float32DT_FLOAT161半精度浮点型float16DT_INT828 位有符号整型DT_INT32332 位有符号整型DT_UINT848 位无符号整型DT_INT16616 位有符号整型DT_UINT16716 位无符号整型DT_UINT32832 位无符号整型DT_INT64964 位有符号整型DT_UINT641064 位无符号整型DT_DOUBLE11双精度浮点型float64DT_BOOL12布尔型DT_STRING13字符串类型DT_DUAL_SUB_INT814双输出子类型 int8DT_DUAL_SUB_UINT815双输出子类型 uint8DT_COMPLEX641664 位复数型DT_COMPLEX12817128 位复数型DT_QINT818量化 8 位有符号整型DT_QINT1619量化 16 位有符号整型DT_QINT3220量化 32 位有符号整型DT_QUINT821量化 8 位无符号整型DT_QUINT1622量化 16 位无符号整型DT_RESOURCE23资源类型DT_STRING_REF24字符串引用类型DT_DUAL25双输出类型DT_VARIANT26变体类型DT_BF1627BF16 浮点型DT_UNDEFINED28未定义数据类型用于指示 DataType 字段未被设置DT_INT4294 位有符号整型DT_UINT1301 位无符号整型DT_INT2312 位有符号整型DT_UINT2322 位无符号整型DT_COMPLEX323332 位复数型DT_HIFLOAT8348 位高精度浮点型DT_FLOAT8_E5M2358 位浮点型E5M2 格式DT_FLOAT8_E4M3FN368 位浮点型E4M3FN 格式DT_FLOAT8_E8M0378 位浮点型E8M0 格式DT_FLOAT6_E3M2386 位浮点型E3M2 格式DT_FLOAT6_E2M3396 位浮点型E2M3 格式DT_FLOAT4_E2M1404 位浮点型E2M1 格式DT_FLOAT4_E1M2414 位浮点型E1M2 格式DT_HIFLOAT4424 位高精度浮点型DT_MAX43数据类型边界标记不代表实际数据类型约束说明DataType 继承自 IntEnum因此可以与整数进行比较和运算。枚举值 5 为保留值未在当前版本中使用。DT_MAX 仅作为数据类型范围的边界标记不应作为实际数据类型使用。DT_UNDEFINED 用于标识未设置的数据类型字段不应在正常业务逻辑中赋值。使用示例from ge.graph import DataType # 使用枚举值 dtype DataType.DT_FLOAT print(dtype) # DataType.DT_FLOAT print(dtype.value) # 0 # 枚举值比较 print(DataType.DT_FLOAT 0) # True print(DataType.DT_FLOAT16.value) # 1 # 配合 TensorDesc 使用 from ge.graph import TensorDesc, Format desc TensorDesc(shape[1, 3, 224, 224], formatFormat.FORMAT_NCHW, data_typeDataType.DT_FLOAT16)【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
CANN/ge Python API数据类型枚举
DataType【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√模块导入from ge.graph import DataType功能说明DataType 是一个继承自 IntEnum 的枚举类用于定义张量支持的所有元素数据类型。每个枚举值对应一个整数值与底层 C 接口中的数据类型定义保持一致。枚举值列表枚举名值说明DT_FLOAT0单精度浮点型float32DT_FLOAT161半精度浮点型float16DT_INT828 位有符号整型DT_INT32332 位有符号整型DT_UINT848 位无符号整型DT_INT16616 位有符号整型DT_UINT16716 位无符号整型DT_UINT32832 位无符号整型DT_INT64964 位有符号整型DT_UINT641064 位无符号整型DT_DOUBLE11双精度浮点型float64DT_BOOL12布尔型DT_STRING13字符串类型DT_DUAL_SUB_INT814双输出子类型 int8DT_DUAL_SUB_UINT815双输出子类型 uint8DT_COMPLEX641664 位复数型DT_COMPLEX12817128 位复数型DT_QINT818量化 8 位有符号整型DT_QINT1619量化 16 位有符号整型DT_QINT3220量化 32 位有符号整型DT_QUINT821量化 8 位无符号整型DT_QUINT1622量化 16 位无符号整型DT_RESOURCE23资源类型DT_STRING_REF24字符串引用类型DT_DUAL25双输出类型DT_VARIANT26变体类型DT_BF1627BF16 浮点型DT_UNDEFINED28未定义数据类型用于指示 DataType 字段未被设置DT_INT4294 位有符号整型DT_UINT1301 位无符号整型DT_INT2312 位有符号整型DT_UINT2322 位无符号整型DT_COMPLEX323332 位复数型DT_HIFLOAT8348 位高精度浮点型DT_FLOAT8_E5M2358 位浮点型E5M2 格式DT_FLOAT8_E4M3FN368 位浮点型E4M3FN 格式DT_FLOAT8_E8M0378 位浮点型E8M0 格式DT_FLOAT6_E3M2386 位浮点型E3M2 格式DT_FLOAT6_E2M3396 位浮点型E2M3 格式DT_FLOAT4_E2M1404 位浮点型E2M1 格式DT_FLOAT4_E1M2414 位浮点型E1M2 格式DT_HIFLOAT4424 位高精度浮点型DT_MAX43数据类型边界标记不代表实际数据类型约束说明DataType 继承自 IntEnum因此可以与整数进行比较和运算。枚举值 5 为保留值未在当前版本中使用。DT_MAX 仅作为数据类型范围的边界标记不应作为实际数据类型使用。DT_UNDEFINED 用于标识未设置的数据类型字段不应在正常业务逻辑中赋值。使用示例from ge.graph import DataType # 使用枚举值 dtype DataType.DT_FLOAT print(dtype) # DataType.DT_FLOAT print(dtype.value) # 0 # 枚举值比较 print(DataType.DT_FLOAT 0) # True print(DataType.DT_FLOAT16.value) # 1 # 配合 TensorDesc 使用 from ge.graph import TensorDesc, Format desc TensorDesc(shape[1, 3, 224, 224], formatFormat.FORMAT_NCHW, data_typeDataType.DT_FLOAT16)【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考