CANN/HCCL集群信息校验失败问题

CANN/HCCL集群信息校验失败问题 集群信息校验失败问题【免费下载链接】hccl集合通信库Huawei Collective Communication Library简称HCCL是基于昇腾AI处理器的高性能集合通信库为计算集群提供高性能、高可靠的通信方案项目地址: https://gitcode.com/cann/hccl定位思路HCCL会对rank table文件或协商收集到的rank table信息进行校验若校验失败HCCL会直接报错退出请基于实际报错内容进行定位。可能的原因有rank table文件校验失败、内容与硬件配置不符合TLS配置不一致或superDeviceId重复。后续内容为一些常见的集群信息校验失败报错案例若未找到对应案例可根据实际的报错信息进行定位排查。IP Family校验不一致 EI0001问题现象在CANN日志中存在关键字rank[*] device ip family[2] is not same as others[*].如下所示[ERROR] HCCL(144905,python):2025-04-20-00:26:54.435.048 [config.cc:413] [145735][InitGroupStage][RanktableCheck]rank[0] device ip family[2] is not same as others[10].可能原因两个rank获取到的IP Family不同比如一边是IPv4而另一边是IPv6。解决方法查询是否配置了IPv4hccn_tool -i {deviceId} -ip -g查询是否配置了IPv6hccn_tool -i {deviceId} -ip -inet6 -g同一次作业的所有rank的IP Family应保持一致。HCCL默认先使用IPv4协议若Device侧没有配置IPv4协议的IP则会使用IPv6协议对应的ip。可以使用HCCL_SOCKET_FAMILY环境变量指定需要使用的网卡IP协议。**注意**family打印为枚举值枚举值及对应关系如下表所示。IP Family枚举值IP协议2IPv410IPv6TLS信息配置不一致EI0016问题现象在CANN日志中存在关键字All ranks are consistent.如下所示[ERROR] HCCL(94774,all_reduce_test):2025-10-27-11:51:32.570.490 [topoinfo_exchange_agent.cc:831] [94774][InitGroupStage][RanktableCheck] Value Disable for config tls is invalid. Expected Value:All ranks are consistent. Current status : rankList for enabled tls:[10.78.106.107/0]; rankList for disabled tls:[10.78.106.107/0]; rankList for query failure tls:.;可能原因通信域创建过程中server节点收到通信域内所有rank的信息后会校验通信域内所有rank的tls配置是否一致若存在配置不一致场景则会直接校验失败退出同时会打印出Disable或者Enable的节点列表而未打印的节点列表则为相反的tls配置。此校验功能仅支持在Ascend HDK 25.2.0以上的版本及通过root信息协商初始化通信域的场景中使用。Ascend 950PR/Ascend 950DT不支持此功能。解决方法查询集合通信的各服务器TLS状态开关。在服务器中执行如下命令获取TLS开关使能状态。hccn_tool -i device_id -tls -g其中device_id为Device设备的逻辑ID您也可以通过如下for语句一次性查询所有Device设备的TLS信息。for i in seq 0 7; do hccn_tool -i $i -tls -g; done # 07分别为需要查询的Device ID的起始与结束值。打印信息如下所示dev_id:0, tls switch[0](https://link.gitcode.com/i/708ace212096f4b4a2dc74fc3a782822), tls alarm time threshold[60]days dev_id:0, [pub cert] info: issuer[/CCN/STGD/OHUAWEI/OU2012/CN2_1thCA] start_time[Wed Feb 19 03:19:21 2020 GMT] end_time[Sat Feb 16 03:19:21 2030 GMT] dev_id:0, [ca1 cert] info: issuer[/CCN/STGD/LSZ/OHUAWEI/CN1thCA] start_time[Wed Feb 19 03:19:07 2020 GMT] end_time[Sat Feb 16 03:19:07 2030 GMT] dev_id:0, [ca2 cert] info: issuer[/CCN/STGD/LSZ/OHUAWEI/CN1thCA] start_time[Wed Feb 19 03:19:10 2020 GMT] end_time[Sat Feb 16 03:19:10 2030 GMT] dev_id:1, tls switch[0](https://link.gitcode.com/i/708ace212096f4b4a2dc74fc3a782822), tls alarm time threshold[60]days dev_id:1, [pub cert] info: issuer[/CCN/STGD/OHUAWEI/OU2012/CN2_1thCA] start_time[Wed Feb 19 03:19:21 2020 GMT] end_time[Sat Feb 16 03:19:21 2030 GMT] dev_id:1, [ca1 cert] info: issuer[/CCN/STGD/LSZ/OHUAWEI/CN1thCA] start_time[Wed Feb 19 03:19:07 2020 GMT] end_time[Sat Feb 16 03:19:07 2030 GMT] dev_id:1, [ca2 cert] info: issuer[/CCN/STGD/LSZ/OHUAWEI/CN1thCA] start_time[Wed Feb 19 03:19:10 2020 GMT] end_time[Sat Feb 16 03:19:10 2030 GMT] ... ...其中tls switch[0]代表TLS状态为关闭switch[1]代表TLS状态为使能。判断各服务器中所有Device的TLS状态开关是否一致。若不一致建议统一修改TLS状态为使能。若TLS开关关闭集合通信时会存在信息被窃听、篡改、仿冒的风险。您可以通过如下命令修改TLS状态开关hccn_tool -i device_id -tls -s enable 1enable为使能开关配置为1代表使能配置为0代表关闭。若一致且状态为使能建议您继续执行步骤3判断各节点的TLS证书信息是否一致。查看所有服务器中各Device的TLS证书信息是否一致。您可以通过步骤1中的信息判断各Device TLS证书信息是否一致。若不一致您可以通过如下命令替换证书套件。hccn_tool -i 0 -tls -s path /root pri pri.pem pub pub.pem ca1 ca1.pem ca2 ca2.pem crl xxx.crl-i为Device ID-path为指定证书/私钥/吊销列表存放路径pri为私钥名字pub为设备证书文件名ca1/ca2/crl分别为根证书、二级根证书、吊销列表文件名。关于hccn_tool工具的更多用法及参数解释可查看对应版本的《HCCN Tool 接口参考》。superDeviceId重复EI0014问题现象在CANN日志中存在关键字superDeviceId[***] in superPod[***]is already exist如下所示[ERROR] HCCL(169030,alltoall_test):2025-10-23-16:28:59.392.635 [topoinfo_exchange_agent.cc:695] [169030][InitGroupStage][RanktableCheck]devices have same superDeviceId[0x3000000] in superPod[super_pod_id_0]. Current device info: serverId[127.10.0.1], rankId[0], group[hccl_world_group]. Another device info: rankId[1].可能原因superDeviceId是Atlas A3 训练系列产品/Atlas A3 推理系列产品内Device在超节点系统中的物理ID是超节点系统中Device的唯一标识。HCCL在一致性校验时发现一个超节点内有相同的superDeviceId因此校验失败。superDeviceId可通过npu-smi命令查询npu-smi info -t spod-info -i id -c chip_idid设备id通过npu-smi info -l命令查出的NPU ID即为设备id。chip_id芯片id通过npu-smi info -m命令查出的Chip ID即为芯片id。回显中的“SDID”即为superDeviceID。出现此问题的可能原因是硬件配置异常。通过HCCL_LOGIC_SUPERPOD_ID环境变量将不同的物理超节点配置在了同一个逻辑超节点内导致superDeviceId重复。解决方法修改硬件配置或正确配置HCCL_LOGIC_SUPERPOD_ID环境变量避免同一个超节点内出现superDeviceId相同的设备。【免费下载链接】hccl集合通信库Huawei Collective Communication Library简称HCCL是基于昇腾AI处理器的高性能集合通信库为计算集群提供高性能、高可靠的通信方案项目地址: https://gitcode.com/cann/hccl创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考