接口参考C【免费下载链接】hixlHIXLHuawei Xfer Library是一个灵活、高效的昇腾单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力。项目地址: https://gitcode.com/cann/hixl简介LLM-DataDistLLM-DataDist相关接口存放在INSTALL_DIR/include/llm_datadist/llm_datadist.h。INSTALL_DIR请替换为CANN软件安装后文件存储路径。若安装的Ascend-cann-toolkit软件包以root安装举例则安装后文件存储路径为/usr/local/Ascend/cann。LLM-DataDist接口对应的库文件是libllm_datadist.so。HIXLHuawei Xfer LibraryHIXL相关接口存放在INSTALL_DIR/include/hixl/hixl.h。INSTALL_DIR请替换为CANN软件安装后文件存储路径。若安装的Ascend-cann-toolkit软件包以root安装举例则安装后文件存储路径为/usr/local/Ascend/cann。HIXL接口对应的库文件是libcann_hixl.so。HIXL_CS相关接口存放在INSTALL_DIR/include/cs/hixl_cs.h。INSTALL_DIR请替换为CANN软件安装后文件存储路径。若安装的Ascend-cann-toolkit软件包以root安装举例则安装后文件存储路径为/usr/local/Ascend/cann。该接口仅支持Ascend 950PR/Ascend 950DT。HIXL_CS接口对应的库文件是libcann_hixl.so。仅支持Ascend 950PR/Ascend 950DT。支持的产品形态如下Atlas A2 训练系列产品/Atlas A2 推理系列产品仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。该场景下Server采用HCCS传输协议时LLM-DataDist相关接口仅支持D2D。Atlas A3 训练系列产品/Atlas A3 推理系列产品该场景下采用HCCS传输协议时LLM-DataDist相关接口不支持Host内存作为远端Cache。Ascend 950PR/Ascend 950DT超节点内使用UB协议超节点间使用RoCE协议。接口列表接口列表如下LLM-DataDist接口LLM-DataDist数据结构LLM-DataDist错误码HIXL_CS接口HIXL接口HIXL数据结构HIXL错误码不支持的接口待废弃_ADXL接口待废弃_ADXL数据结构待废弃_ADXL错误码【免费下载链接】hixlHIXLHuawei Xfer Library是一个灵活、高效的昇腾单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力。项目地址: https://gitcode.com/cann/hixl创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
CANN/hixl C++接口参考
接口参考C【免费下载链接】hixlHIXLHuawei Xfer Library是一个灵活、高效的昇腾单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力。项目地址: https://gitcode.com/cann/hixl简介LLM-DataDistLLM-DataDist相关接口存放在INSTALL_DIR/include/llm_datadist/llm_datadist.h。INSTALL_DIR请替换为CANN软件安装后文件存储路径。若安装的Ascend-cann-toolkit软件包以root安装举例则安装后文件存储路径为/usr/local/Ascend/cann。LLM-DataDist接口对应的库文件是libllm_datadist.so。HIXLHuawei Xfer LibraryHIXL相关接口存放在INSTALL_DIR/include/hixl/hixl.h。INSTALL_DIR请替换为CANN软件安装后文件存储路径。若安装的Ascend-cann-toolkit软件包以root安装举例则安装后文件存储路径为/usr/local/Ascend/cann。HIXL接口对应的库文件是libcann_hixl.so。HIXL_CS相关接口存放在INSTALL_DIR/include/cs/hixl_cs.h。INSTALL_DIR请替换为CANN软件安装后文件存储路径。若安装的Ascend-cann-toolkit软件包以root安装举例则安装后文件存储路径为/usr/local/Ascend/cann。该接口仅支持Ascend 950PR/Ascend 950DT。HIXL_CS接口对应的库文件是libcann_hixl.so。仅支持Ascend 950PR/Ascend 950DT。支持的产品形态如下Atlas A2 训练系列产品/Atlas A2 推理系列产品仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。该场景下Server采用HCCS传输协议时LLM-DataDist相关接口仅支持D2D。Atlas A3 训练系列产品/Atlas A3 推理系列产品该场景下采用HCCS传输协议时LLM-DataDist相关接口不支持Host内存作为远端Cache。Ascend 950PR/Ascend 950DT超节点内使用UB协议超节点间使用RoCE协议。接口列表接口列表如下LLM-DataDist接口LLM-DataDist数据结构LLM-DataDist错误码HIXL_CS接口HIXL接口HIXL数据结构HIXL错误码不支持的接口待废弃_ADXL接口待废弃_ADXL数据结构待废弃_ADXL错误码【免费下载链接】hixlHIXLHuawei Xfer Library是一个灵活、高效的昇腾单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力。项目地址: https://gitcode.com/cann/hixl创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考