HCCL简介【免费下载链接】hccl集合通信库Huawei Collective Communication Library简称HCCL是基于昇腾AI处理器的高性能集合通信库为计算集群提供高性能、高可靠的通信方案项目地址: https://gitcode.com/cann/hccl集合通信库HCCLHuawei Collective Communication Library是基于昇腾硬件的高性能集合通信库为计算集群提供高性能、高可靠的通信方案。核心功能提供单机、多机环境中的高性能集合通信和点对点通信。支持AllReduce、Broadcast、AllGather、ReduceScatter、AlltoAll、Send、Receive等集合通信原语。支持Ring、Mesh、Recursive Halving-DoublingRHD等通信算法。支持HCCS、RoCE、PCIe、UBUnified Bus等高速通信链路。支持单算子和图模式两种执行模式。支持通信算子的自定义开发。软件架构HCCL是CANN的核心组件为NPU集群提供高性能、高可靠性的通信方案。HCCL向上支持多种AI框架向下实现多款昇腾AI处理器之间的高效互联其架构如下图所示。图 1集合通信库软件架构图HCCL包含HCCL集合通信库与HCOMMHuawei Communication通信基础库HCCL集合通信库包含内置通信算子和扩展通信算子提供对外的通信算子接口。内置通信算子HCCL提供的基础通信算子包含集合通信算子和点对点通信算子。扩展通信算子用户可以使用HCOMM通信基础库提供的接口自定义扩展通信算子。HCOMM通信基础库采用分层解耦的设计思路将通信能力划分为控制面和数据面两部分。控制面提供拓扑信息查询与通信资源管理功能。数据面提供本地操作、算子间同步、通信操作等数据搬运和计算功能。控制面提供通信资源数据面提供操作资源的方法提供的相关接口可以让通信算子开发人员聚焦于业务创新而无需关注芯片底层复杂的实现细节。支持的产品Ascend 950PR/Ascend 950DTAtlas A3 训练系列产品/Atlas A3 推理系列产品Atlas A2 训练系列产品/Atlas A2 推理系列产品Atlas 训练系列产品Atlas 推理系列产品[!NOTE]说明 针对Atlas A2 训练系列产品/Atlas A2 推理系列产品仅支持Atlas 800T A2 训练服务器、Atlas 900 A2 PoD 集群基础单元、Atlas 200T A2 Box16 异构子框。 针对Atlas 推理系列产品仅支持Atlas 300I Duo 推理卡。【免费下载链接】hccl集合通信库Huawei Collective Communication Library简称HCCL是基于昇腾AI处理器的高性能集合通信库为计算集群提供高性能、高可靠的通信方案项目地址: https://gitcode.com/cann/hccl创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
CANN/HCCL集合通信库简介
HCCL简介【免费下载链接】hccl集合通信库Huawei Collective Communication Library简称HCCL是基于昇腾AI处理器的高性能集合通信库为计算集群提供高性能、高可靠的通信方案项目地址: https://gitcode.com/cann/hccl集合通信库HCCLHuawei Collective Communication Library是基于昇腾硬件的高性能集合通信库为计算集群提供高性能、高可靠的通信方案。核心功能提供单机、多机环境中的高性能集合通信和点对点通信。支持AllReduce、Broadcast、AllGather、ReduceScatter、AlltoAll、Send、Receive等集合通信原语。支持Ring、Mesh、Recursive Halving-DoublingRHD等通信算法。支持HCCS、RoCE、PCIe、UBUnified Bus等高速通信链路。支持单算子和图模式两种执行模式。支持通信算子的自定义开发。软件架构HCCL是CANN的核心组件为NPU集群提供高性能、高可靠性的通信方案。HCCL向上支持多种AI框架向下实现多款昇腾AI处理器之间的高效互联其架构如下图所示。图 1集合通信库软件架构图HCCL包含HCCL集合通信库与HCOMMHuawei Communication通信基础库HCCL集合通信库包含内置通信算子和扩展通信算子提供对外的通信算子接口。内置通信算子HCCL提供的基础通信算子包含集合通信算子和点对点通信算子。扩展通信算子用户可以使用HCOMM通信基础库提供的接口自定义扩展通信算子。HCOMM通信基础库采用分层解耦的设计思路将通信能力划分为控制面和数据面两部分。控制面提供拓扑信息查询与通信资源管理功能。数据面提供本地操作、算子间同步、通信操作等数据搬运和计算功能。控制面提供通信资源数据面提供操作资源的方法提供的相关接口可以让通信算子开发人员聚焦于业务创新而无需关注芯片底层复杂的实现细节。支持的产品Ascend 950PR/Ascend 950DTAtlas A3 训练系列产品/Atlas A3 推理系列产品Atlas A2 训练系列产品/Atlas A2 推理系列产品Atlas 训练系列产品Atlas 推理系列产品[!NOTE]说明 针对Atlas A2 训练系列产品/Atlas A2 推理系列产品仅支持Atlas 800T A2 训练服务器、Atlas 900 A2 PoD 集群基础单元、Atlas 200T A2 Box16 异构子框。 针对Atlas 推理系列产品仅支持Atlas 300I Duo 推理卡。【免费下载链接】hccl集合通信库Huawei Collective Communication Library简称HCCL是基于昇腾AI处理器的高性能集合通信库为计算集群提供高性能、高可靠的通信方案项目地址: https://gitcode.com/cann/hccl创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考