CANN/hixl Python接口参考

接口参考Python【免费下载链接】hixlHIXLHuawei Xfer Library是一个灵活、高效的昇腾单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力。项目地址: https://gitcode.com/cann/hixl支持的形态如下Atlas A2 训练系列产品/Atlas A2 推理系列产品仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。该场景下Server采用HCCS传输协议时仅支持D2D。最大注册50GB的Device内存20GB的Host内存。注册内存越大占用的OS内存越大。Atlas A3 训练系列产品/Atlas A3 推理系列产品该场景下采用HCCS传输协议时不支持Host内存作为远端Cache。最大注册50GB的Device内存20GB的Host内存。注册内存越大占用的OS内存越大。Ascend 950PR/Ascend 950DT超节点内使用UB协议超节点间使用RoCE协议。当前支持Python3.9~12Python安装方法请参考Python官网。最大注册50GB的Device内存20GB的Host内存。注册内存越大占用的OS内存越多。该约束支持的形态如下Atlas A2 训练系列产品/Atlas A2 推理系列产品仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。Atlas A3 训练系列产品/Atlas A3 推理系列产品接口列表如下LLMDataDistLLMConfigCacheManagerCacheLLMRoleLLMClusterInfoRegisterMemStatusPlacementCacheDescMemTypeMemInfoCacheKeyCacheKeyByIdAndIndexBlocksCacheKeyLayerSynchronizerTransferConfigTransferWithCacheKeyConfigCacheTaskLLMExceptionLLMStatusCodeDataType待废弃【免费下载链接】hixlHIXLHuawei Xfer Library是一个灵活、高效的昇腾单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力。项目地址: https://gitcode.com/cann/hixl创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考