基于TorchTitan-NPU的DeepSeek-V4-Flash训练部署指导【免费下载链接】cann-recipes-train本项目针对LLM与多模态模型训练业务中的典型模型、加速算法提供基于CANN平台的优化样例项目地址: https://gitcode.com/cann/cann-recipes-train概述本文面向torchtitan-npu仓中的DeepSeek-V4-Flash模型训练场景介绍源码获取、数据准备、模型权重准备与 BF16 转换、镜像准备、Docker 容器拉起、训练配置说明以及多机训练启动方式。本文的优化方案介绍和性能Benchmark可参见技术报告DeepSeek-V4昇腾训练支持基于CANN平台的TorchTitan-NPU AutoFuse 极简训练优化实践。硬件与软件要求项目要求产品型号Atlas A3 系列最小卡数要求8机 64卡 A3操作系统Linux ARM驱动版本Ascend HDK 25.5.1镜像版本dsv4_train_torchtitan:cann9.0.0.beta.1_v1.0[!NOTE] 需使用npu-smi info 检查Ascend NPU固件和驱动正确安装且版本为25.5.1。如果未安装或者版本不一致请先下载固件和驱动包并根据指导自行安装。源码准备执行如下命令拉取源码mkdir -p /home/code cd /home/code/ git clone https://gitcode.com/cann/torchtitan-npu.git cd torchtitan-npu本次训练使用的配置文件为./torchtitan_npu/models/deepseek_v4/train_configs/deepseek_v4_285b_43layers_4k_128die.toml获取Docker镜像从ARM镜像地址中下载 docker 镜像然后上传到A3服务器的每个节点上执行如下命令加载训练镜像gunzip -c dsv4_train_torchtitan*.gz | docker load加载后镜像版本如下dsv4_train_torchtitan:cann9.0.0.beta.1_v1.0启动Docker容器执行如下命令启动容器docker run -u root -itd --name dsv4_train_torchtitan_v1.0 --ulimit nproc65535:65535 --ipchost \ --device/dev/davinci0 --device/dev/davinci1 \ --device/dev/davinci2 --device/dev/davinci3 \ --device/dev/davinci4 --device/dev/davinci5 \ --device/dev/davinci6 --device/dev/davinci7 \ --device/dev/davinci8 --device/dev/davinci9 \ --device/dev/davinci10 --device/dev/davinci11 \ --device/dev/davinci12 --device/dev/davinci13 \ --device/dev/davinci14 --device/dev/davinci15 \ --device/dev/davinci_manager --device/dev/devmm_svm \ --device/dev/hisi_hdc \ -v /home:/home \ -v /data:/data \ -v /etc/localtime:/etc/localtime \ -v /usr/local/Ascend/driver:/usr/local/Ascend/driver \ -v /etc/ascend_install.info:/etc/ascend_install.info -v /var/log/npu/:/usr/slog \ -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi -v /sys/fs/cgroup:/sys/fs/cgroup:ro \ -v /usr/local/dcmi:/usr/local/dcmi -v /usr/local/sbin:/usr/local/sbin \ -v /etc/hccn.conf:/etc/hccn.conf -v /root/.pip:/root/.pip -v /etc/hosts:/etc/hosts \ -v /usr/bin/hostname:/usr/bin/hostname \ --nethost \ --shm-size128g \ --privileged \ dsv4_train_torchtitan:cann9.0.0.beta.1_v1.0 /bin/bash进入容器docker exec -it dsv4_train_torchtitan_v1.0 /bin/bash在容器内执行环境变量初始化source /usr/local/Ascend/cann/set_env.sh source /usr/local/Ascend/cann/opp/vendors/custom_transformer/bin/set_env.bash数据集准备该配置默认使用仓内样例数据集dataset c4_test dataset_path ./tests/assets/c4_test若直接按默认配置拉起训练可使用仓内已有的c4_test数据集若使用自定义数据集请提前准备好数据目录并在后续训练配置中修改dataset和dataset_path。模型权重准备本样例使用DeepSeek-V4-Flash权重进行CPT训练建议先从 huggingface 下载原始权重和配置文件到统一目录例如mkdir -p /data/models/DeepSeek-V4-Flash将原始权重转换为 BF16 权重输出目录与训练配置文件保持一致例如mkdir -p /data/models/DeepSeek-V4-Flash-bf16权重转换使用cann-recipes-train仓中的convert_model.py脚本。示例如下cd /home/code/ git clone https://gitcode.com/cann/cann-recipes-train.git cd cann-recipes-train/llm_pretrain/deepseekv4/utils python3 convert_model.py \ --input_fp8_hf_path /data/models/DeepSeek-V4-Flash \ --output_hf_path /data/models/DeepSeek-V4-Flash-bf16 \ --quant_type bfloat16训练配置本次训练使用配置文件./torchtitan_npu/models/deepseek_v4/train_configs/deepseek_v4_285b_43layers_4k_128die.toml拉起训练前请重点确认以下路径配置与实际环境一致[model] hf_assets_path /data/models/DeepSeek-V4-Flash-bf16 [training] dataset c4_test dataset_path ./tests/assets/c4_test [checkpoint] initial_load_in_hf true initial_load_path /data/models/DeepSeek-V4-Flash-bf16启动训练根据使用实际的网卡、节点 IP等修改多机训练脚本配置参考torchtitan-npu快速上手 文档中的“多机训练任务”一节。进入各节点上的torchtitan-npu源码目录后在所有参与训练的节点上同时执行如下命令即可启动DeepSeek-V4-Flash多机CPT训练任务CONFIG_FILE./torchtitan_npu/models/deepseek_v4/train_configs/deepseek_v4_285b_43layers_4k_128die.toml \ bash scripts/run_train_multinodes.sh【免费下载链接】cann-recipes-train本项目针对LLM与多模态模型训练业务中的典型模型、加速算法提供基于CANN平台的优化样例项目地址: https://gitcode.com/cann/cann-recipes-train创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
CANN DeepSeek-V4-Flash训练部署
基于TorchTitan-NPU的DeepSeek-V4-Flash训练部署指导【免费下载链接】cann-recipes-train本项目针对LLM与多模态模型训练业务中的典型模型、加速算法提供基于CANN平台的优化样例项目地址: https://gitcode.com/cann/cann-recipes-train概述本文面向torchtitan-npu仓中的DeepSeek-V4-Flash模型训练场景介绍源码获取、数据准备、模型权重准备与 BF16 转换、镜像准备、Docker 容器拉起、训练配置说明以及多机训练启动方式。本文的优化方案介绍和性能Benchmark可参见技术报告DeepSeek-V4昇腾训练支持基于CANN平台的TorchTitan-NPU AutoFuse 极简训练优化实践。硬件与软件要求项目要求产品型号Atlas A3 系列最小卡数要求8机 64卡 A3操作系统Linux ARM驱动版本Ascend HDK 25.5.1镜像版本dsv4_train_torchtitan:cann9.0.0.beta.1_v1.0[!NOTE] 需使用npu-smi info 检查Ascend NPU固件和驱动正确安装且版本为25.5.1。如果未安装或者版本不一致请先下载固件和驱动包并根据指导自行安装。源码准备执行如下命令拉取源码mkdir -p /home/code cd /home/code/ git clone https://gitcode.com/cann/torchtitan-npu.git cd torchtitan-npu本次训练使用的配置文件为./torchtitan_npu/models/deepseek_v4/train_configs/deepseek_v4_285b_43layers_4k_128die.toml获取Docker镜像从ARM镜像地址中下载 docker 镜像然后上传到A3服务器的每个节点上执行如下命令加载训练镜像gunzip -c dsv4_train_torchtitan*.gz | docker load加载后镜像版本如下dsv4_train_torchtitan:cann9.0.0.beta.1_v1.0启动Docker容器执行如下命令启动容器docker run -u root -itd --name dsv4_train_torchtitan_v1.0 --ulimit nproc65535:65535 --ipchost \ --device/dev/davinci0 --device/dev/davinci1 \ --device/dev/davinci2 --device/dev/davinci3 \ --device/dev/davinci4 --device/dev/davinci5 \ --device/dev/davinci6 --device/dev/davinci7 \ --device/dev/davinci8 --device/dev/davinci9 \ --device/dev/davinci10 --device/dev/davinci11 \ --device/dev/davinci12 --device/dev/davinci13 \ --device/dev/davinci14 --device/dev/davinci15 \ --device/dev/davinci_manager --device/dev/devmm_svm \ --device/dev/hisi_hdc \ -v /home:/home \ -v /data:/data \ -v /etc/localtime:/etc/localtime \ -v /usr/local/Ascend/driver:/usr/local/Ascend/driver \ -v /etc/ascend_install.info:/etc/ascend_install.info -v /var/log/npu/:/usr/slog \ -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi -v /sys/fs/cgroup:/sys/fs/cgroup:ro \ -v /usr/local/dcmi:/usr/local/dcmi -v /usr/local/sbin:/usr/local/sbin \ -v /etc/hccn.conf:/etc/hccn.conf -v /root/.pip:/root/.pip -v /etc/hosts:/etc/hosts \ -v /usr/bin/hostname:/usr/bin/hostname \ --nethost \ --shm-size128g \ --privileged \ dsv4_train_torchtitan:cann9.0.0.beta.1_v1.0 /bin/bash进入容器docker exec -it dsv4_train_torchtitan_v1.0 /bin/bash在容器内执行环境变量初始化source /usr/local/Ascend/cann/set_env.sh source /usr/local/Ascend/cann/opp/vendors/custom_transformer/bin/set_env.bash数据集准备该配置默认使用仓内样例数据集dataset c4_test dataset_path ./tests/assets/c4_test若直接按默认配置拉起训练可使用仓内已有的c4_test数据集若使用自定义数据集请提前准备好数据目录并在后续训练配置中修改dataset和dataset_path。模型权重准备本样例使用DeepSeek-V4-Flash权重进行CPT训练建议先从 huggingface 下载原始权重和配置文件到统一目录例如mkdir -p /data/models/DeepSeek-V4-Flash将原始权重转换为 BF16 权重输出目录与训练配置文件保持一致例如mkdir -p /data/models/DeepSeek-V4-Flash-bf16权重转换使用cann-recipes-train仓中的convert_model.py脚本。示例如下cd /home/code/ git clone https://gitcode.com/cann/cann-recipes-train.git cd cann-recipes-train/llm_pretrain/deepseekv4/utils python3 convert_model.py \ --input_fp8_hf_path /data/models/DeepSeek-V4-Flash \ --output_hf_path /data/models/DeepSeek-V4-Flash-bf16 \ --quant_type bfloat16训练配置本次训练使用配置文件./torchtitan_npu/models/deepseek_v4/train_configs/deepseek_v4_285b_43layers_4k_128die.toml拉起训练前请重点确认以下路径配置与实际环境一致[model] hf_assets_path /data/models/DeepSeek-V4-Flash-bf16 [training] dataset c4_test dataset_path ./tests/assets/c4_test [checkpoint] initial_load_in_hf true initial_load_path /data/models/DeepSeek-V4-Flash-bf16启动训练根据使用实际的网卡、节点 IP等修改多机训练脚本配置参考torchtitan-npu快速上手 文档中的“多机训练任务”一节。进入各节点上的torchtitan-npu源码目录后在所有参与训练的节点上同时执行如下命令即可启动DeepSeek-V4-Flash多机CPT训练任务CONFIG_FILE./torchtitan_npu/models/deepseek_v4/train_configs/deepseek_v4_285b_43layers_4k_128die.toml \ bash scripts/run_train_multinodes.sh【免费下载链接】cann-recipes-train本项目针对LLM与多模态模型训练业务中的典型模型、加速算法提供基于CANN平台的优化样例项目地址: https://gitcode.com/cann/cann-recipes-train创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
