Phi-3-Mini-128K模型剪枝与量化实战在STM32F103C8T6上的部署探索最近在捣鼓一些边缘设备上的AI应用发现一个挺有意思的挑战能不能把那些动辄几十亿参数的大模型塞进一块小小的单片机里比如我们手头常见的STM32F103C8T6最小系统板它只有64KB的RAM和512KB的Flash资源紧张得很。但需求是实实在在的。想象一下一个智能家居的本地语音指令识别或者一个工业传感器上的异常检测如果能在设备端直接处理不用联网上传云端那响应速度、数据隐私和系统可靠性都会好很多。微软前段时间开源的Phi-3-Mini-128K虽然“迷你”但也是个拥有38亿参数的“大家伙”直接放MCU上显然不现实。所以这篇文章就想跟你聊聊我们怎么通过模型剪枝和量化这两把“手术刀”给Phi-3-Mini“瘦身”并尝试把它部署到STM32F103C8T6这块板子上。整个过程更像是一次工程探险我们会遇到内存墙、算力瓶颈等各种问题也会用到一些现有的工具链。虽然最终可能无法完整运行原模型但探索过程中的思路、方法和遇到的坑对想在资源受限设备上玩转AI的朋友应该会有些启发。1. 目标与挑战为什么是STM32F103C8T6你可能想问市面上有那么多性能更强的边缘计算芯片比如树莓派、Jetson Nano甚至专用的AI加速MCU为什么偏偏选STM32F103C8T6这块经典的“蓝屏小钢炮”这其实是个很好的问题。选择它恰恰是为了挑战极限验证轻量化技术的实际边界。STM32F103C8T6属于ARM Cortex-M3内核主频72MHz配备20KB的SRAM实际可用约64KB因型号略有差异和64KB或128KB的Flash我们讨论的C8T6是64KB Flash。这点资源在动辄需要GB级别内存的大模型面前简直是“杯水车薪”。我们的核心挑战集中在三点内存Memory38亿参数的Phi-3-Mini即使以8位整型INT8存储也需要大约3.8GB的存储空间这还没算上中间激活值Activations占用的内存。STM32那几十KB的RAM连装下模型的一个零头都不够。算力Compute大模型的核心是矩阵乘法和注意力机制计算量巨大。Cortex-M3没有浮点运算单元FPU做浮点计算全靠软件模拟速度极慢。即使处理简化后的模型实时性也是巨大考验。存储Storage64KB的Flash连量化后的模型权重都存不下。我们必须大幅削减模型尺寸才能考虑将其放入。所以这次探索的目标不是完美复现Phi-3-Mini的全部能力而是验证经过极端压缩后的微型化模型能否在如此受限的硬件上执行有意义的推理任务比如一个超小型的文本分类或关键词识别。2. 模型“瘦身”手术剪枝与量化详解要把大象装进冰箱第一步是把大象变小。对应到我们的任务就是给模型做“瘦身手术”。主要手段是剪枝Pruning和量化Quantization。2.1 剪枝去掉不重要的“神经元”你可以把神经网络想象成一张错综复杂的公路网。剪枝就是找到那些车流量很少、对从A地到B地影响不大的小路并把它们封闭。在模型中这些“小路”就是权重Weights。我们常用的是一种叫“幅度剪枝”Magnitude Pruning的方法思路非常直接那些绝对值接近0的权重对输出的贡献微乎其微可以把它们设为零。实际操作起来分几步训练一个基准模型我们先需要有一个训练好的Phi-3-Mini模型或者一个我们在下游任务上微调过的版本。评估权重重要性简单地统计所有权重的绝对值大小。设定剪枝阈值比如我们决定剪掉绝对值最小的50%的权重。执行剪枝与微调将低于阈值的权重置零然后在这个“稀疏”的网络结构上用少量数据再进行一轮微调Fine-tuning让剩下的权重调整一下弥补被剪掉部分的功能。迭代进行可以重复“剪枝-微调”这个过程多次逐步提高稀疏度比如从50%到70%再到90%。剪枝后模型会变得非常稀疏很多0。这本身并不能直接减少内存占用因为零值仍然需要存储。但稀疏矩阵有专门的存储格式如CSR和计算库可以利用这些零来加速计算、节省内存。不过在MCU上支持高效稀疏计算的开销可能不小这是我们后面要权衡的。下面是一个非常简化的概念性代码展示如何在PyTorch框架下进行幅度剪枝import torch import torch.nn.utils.prune as prune # 假设我们有一个简单的线性层模拟大模型中的一层 layer torch.nn.Linear(100, 10) # 随机初始化一些权重模拟训练好的权重 torch.nn.init.normal_(layer.weight) print(f“原始权重非零元素比例 {(layer.weight ! 0).sum().item() / layer.weight.numel():.2%}”) # 应用L1 unstructured pruning 剪掉50%的权重 prune.l1_unstructured(layer, name“weight”, amount0.5) # 查看剪枝后的掩码mask0表示被剪枝 print(f“剪枝掩码中0的比例 {(layer.weight_mask 0).sum().item() / layer.weight_mask.numel():.2%}”) # 永久性移除被剪枝的权重使其真正为0并移除掩码 prune.remove(layer, ‘weight’) print(f“永久移除后权重非零元素比例 {(layer.weight ! 0).sum().item() / layer.weight.numel():.2%}”)2.2 量化从高精度到低精度如果说剪枝是减少“道路”的数量那么量化就是降低“道路”的修建标准。在神经网络里权重和激活值通常用32位浮点数FP32表示精度高但占用空间大4字节/数。量化就是把它们转换成更低比特位的表示比如8位整数INT81字节/数甚至4位整数INT4。这个过程会损失一些精度但因为神经网络通常对噪声有一定的鲁棒性经过适当的量化训练Quantization-Aware Training, QAT模型性能的下降可以控制在可接受范围内。对于STM32F103C8T6INT8量化是必须的甚至我们要积极探索INT4的可能性。量化能直接带来4倍FP32 - INT8甚至8倍FP32 - INT4的模型存储空间节省同时整数运算在没有FPU的MCU上速度也快得多。一个简单的训练后静态量化Post-Training Static Quantization流程如下准备校准数据准备一批有代表性的输入数据不需要标签。观察范围让模型用这批数据做一次前向传播记录每一层权重和激活值的分布范围最大值、最小值。计算量化参数根据观察到的范围为每一层确定将浮点数映射到整数的比例scale和零点zero point。转换模型将FP32模型转换为INT8模型权重和激活都用整数表示。部署推理部署时使用整数运算进行推理。3. 部署流水线从PyTorch到STM32模型“瘦身”后我们需要一套工具链把它变成MCU能“吃”的格式。大致的流水线是这样的PyTorch模型 - (剪枝/量化) - ONNX格式 - TensorFlow Lite转换器 - TensorFlow Lite MicroTFLM格式 - 集成到STM32工程这里TensorFlow Lite MicroTFLM是我们的关键桥梁。它是一个为微控制器和嵌入式设备设计的TensorFlow Lite子集代码量小运行时内存需求低支持INT8量化模型。具体步骤模型导出与转换将处理好的PyTorch模型先导出为ONNX格式然后使用TensorFlow的转换工具如tf.lite.TFLiteConverter将其转换为TFLite格式.tflite文件。在转换时必须指定量化参数。集成TFLM到STM32项目我们需要将TFLM的源码主要是核心运行时和算子库添加到我们的STM32开发工程中比如使用STM32CubeIDE或PlatformIO。由于资源限制我们通常只编译模型用到的算子以节省Flash空间。模型数据嵌入将转换好的.tflite文件本质上是一个包含模型架构和量化后权重的FlatBuffer作为C语言数组嵌入到我们的固件代码中。这可以通过xxd或类似的二进制转C数组工具来完成。编写推理代码在MCU的主循环中初始化TFLM解释器Interpreter提供输入张量Tensor的数据调用Invoke()方法执行推理最后从输出张量中获取结果。一个极度简化的、概念性的C代码片段如下// 模型数据数组由 .tflite 文件转换而来 extern const unsigned char g_model_data[]; // 定义输入输出张量 TfLiteTensor* input_tensor nullptr; TfLiteTensor* output_tensor nullptr; // 1. 加载模型并构建解释器 static tflite::MicroInterpreter* interpreter nullptr; // ... (初始化 MicroOpResolver, 分配内存等) // 2. 获取输入张量指针并填充数据例如从传感器读取的数据经过预处理后放入 input_tensor interpreter-input(0); // ... 将你的数据拷贝到 input_tensor-data.int8 中 // 3. 执行推理 TfLiteStatus invoke_status interpreter-Invoke(); if (invoke_status ! kTfLiteOk) { // 错误处理 } // 4. 获取输出结果 output_tensor interpreter-output(0); int8_t* output_data output_tensor-data.int8; // ... 处理 output_data得到最终识别结果4. 实战探索与面临的现实问题理论很美好但一上手就会遇到一堆棘手的问题。在STM32F103C8T6上部署简化版Phi-3-Mini我们遇到了几个主要的“拦路虎”1. 模型尺寸的极限压缩即使经过90%以上的剪枝和INT8量化一个从38亿参数模型简化而来的、哪怕只保留最核心注意力机制几层的微型模型其尺寸也可能远超64KB Flash。我们必须设计一个极简的模型架构可能只包含2-3个Transformer层并且隐藏维度hidden dimension要大幅缩减比如从3072减到128或64。这更像是一个受Phi-3架构启发、为MCU全新设计的小模型而不是原模型的直接压缩。2. 运行时内存RAM瓶颈这是最大的挑战。推理过程中的中间激活值特别是注意力机制中的Key、Value缓存会占用大量RAM。对于一个batch_size1、序列长度sequence length大幅缩短比如从128K减到32或64的微型模型我们需要精确计算每一层激活值的内存占用。STM32F103的20KB SRAM很可能连单次前向传播的激活值都装不下。这就需要我们精心设计内存规划使用静态内存分配复用内存缓冲区。使用TFLM的内存规划器但它的开销本身也会占用一部分RAM。考虑模型分片将模型分成几部分依次从Flash加载到RAM执行但这会严重拖慢推理速度。3. 计算速度与实时性在没有硬件加速的情况下在72MHz的Cortex-M3上执行整数矩阵乘法尤其是注意力计算会非常慢。一次推理可能需要数秒甚至更长时间。这意味着它无法用于任何需要实时响应的场景更适合做离线、低频率的推断任务。4. 工具链与算子支持TFLM对标准Transformer算子的支持可能不完整或未优化。我们需要自己实现或适配一些操作如Layer Normalization的量化版本、高效的INT8 Softmax等这增加了工程复杂度。5. 总结与未来展望这次将Phi-3-Mini推向STM32F103C8T6的探索更像是一次“概念验证”。它清晰地告诉我们直接将现代大型语言模型部署到资源极度受限的MCU上目前仍然是不现实的。主要的障碍来自于内存尤其是RAM和算力的绝对鸿沟。但是这个过程的价值不容忽视。它迫使我们去深入理解模型压缩技术的极限去亲手处理内存字节级别的规划去思考如何为特定硬件设计极简的神经网络架构。这些经验对于在资源稍好的边缘设备比如带有几百KB RAM、主频更高的Cortex-M4/M7 MCU或者专用的AI加速芯片上部署更实用的模型至关重要。未来的方向可能更务实一些瞄准更合适的硬件转向RAM更大如256KB、甚至带有NPU的MCU如STM32H7系列、ESP32-S3等这样我们就能部署一个功能更有意义的微型模型。任务特异性设计不再追求通用语言模型而是为单一特定任务如传感器时序模式识别、特定关键词检测从头设计或微调一个超小型网络。这样效率最高。利用新兴格式与工具关注像MLC-LLM这样的编译框架它致力于将大模型高效编译部署到各种后端其对WebGPU和手机端的优化思路或许能启发MCU端的部署。混合计算架构在设备端只部署一个非常轻量的“触发器”模型或特征提取器当它检测到高置信度的简单模式时本地处理遇到复杂情况时再唤醒更强大的协处理器或将数据发送到边缘网关。总之在单片机上跑AI尤其是大模型简化版目前还处于“玩具”或“极限挑战”阶段。但它为我们指明了边缘AI向更深处、更底层发展的路径。每一次对内存和算力的压榨都在推动着轻量化算法和高效运行时技术的进步。也许不久之后我们今天在STM32F103上遇到的困境会在更强大的硬件和更智能的软件协同下迎刃而解。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
Phi-3-Mini-128K模型剪枝与量化实战：在STM32F103C8T6上的部署探索
Phi-3-Mini-128K模型剪枝与量化实战在STM32F103C8T6上的部署探索最近在捣鼓一些边缘设备上的AI应用发现一个挺有意思的挑战能不能把那些动辄几十亿参数的大模型塞进一块小小的单片机里比如我们手头常见的STM32F103C8T6最小系统板它只有64KB的RAM和512KB的Flash资源紧张得很。但需求是实实在在的。想象一下一个智能家居的本地语音指令识别或者一个工业传感器上的异常检测如果能在设备端直接处理不用联网上传云端那响应速度、数据隐私和系统可靠性都会好很多。微软前段时间开源的Phi-3-Mini-128K虽然“迷你”但也是个拥有38亿参数的“大家伙”直接放MCU上显然不现实。所以这篇文章就想跟你聊聊我们怎么通过模型剪枝和量化这两把“手术刀”给Phi-3-Mini“瘦身”并尝试把它部署到STM32F103C8T6这块板子上。整个过程更像是一次工程探险我们会遇到内存墙、算力瓶颈等各种问题也会用到一些现有的工具链。虽然最终可能无法完整运行原模型但探索过程中的思路、方法和遇到的坑对想在资源受限设备上玩转AI的朋友应该会有些启发。1. 目标与挑战为什么是STM32F103C8T6你可能想问市面上有那么多性能更强的边缘计算芯片比如树莓派、Jetson Nano甚至专用的AI加速MCU为什么偏偏选STM32F103C8T6这块经典的“蓝屏小钢炮”这其实是个很好的问题。选择它恰恰是为了挑战极限验证轻量化技术的实际边界。STM32F103C8T6属于ARM Cortex-M3内核主频72MHz配备20KB的SRAM实际可用约64KB因型号略有差异和64KB或128KB的Flash我们讨论的C8T6是64KB Flash。这点资源在动辄需要GB级别内存的大模型面前简直是“杯水车薪”。我们的核心挑战集中在三点内存Memory38亿参数的Phi-3-Mini即使以8位整型INT8存储也需要大约3.8GB的存储空间这还没算上中间激活值Activations占用的内存。STM32那几十KB的RAM连装下模型的一个零头都不够。算力Compute大模型的核心是矩阵乘法和注意力机制计算量巨大。Cortex-M3没有浮点运算单元FPU做浮点计算全靠软件模拟速度极慢。即使处理简化后的模型实时性也是巨大考验。存储Storage64KB的Flash连量化后的模型权重都存不下。我们必须大幅削减模型尺寸才能考虑将其放入。所以这次探索的目标不是完美复现Phi-3-Mini的全部能力而是验证经过极端压缩后的微型化模型能否在如此受限的硬件上执行有意义的推理任务比如一个超小型的文本分类或关键词识别。2. 模型“瘦身”手术剪枝与量化详解要把大象装进冰箱第一步是把大象变小。对应到我们的任务就是给模型做“瘦身手术”。主要手段是剪枝Pruning和量化Quantization。2.1 剪枝去掉不重要的“神经元”你可以把神经网络想象成一张错综复杂的公路网。剪枝就是找到那些车流量很少、对从A地到B地影响不大的小路并把它们封闭。在模型中这些“小路”就是权重Weights。我们常用的是一种叫“幅度剪枝”Magnitude Pruning的方法思路非常直接那些绝对值接近0的权重对输出的贡献微乎其微可以把它们设为零。实际操作起来分几步训练一个基准模型我们先需要有一个训练好的Phi-3-Mini模型或者一个我们在下游任务上微调过的版本。评估权重重要性简单地统计所有权重的绝对值大小。设定剪枝阈值比如我们决定剪掉绝对值最小的50%的权重。执行剪枝与微调将低于阈值的权重置零然后在这个“稀疏”的网络结构上用少量数据再进行一轮微调Fine-tuning让剩下的权重调整一下弥补被剪掉部分的功能。迭代进行可以重复“剪枝-微调”这个过程多次逐步提高稀疏度比如从50%到70%再到90%。剪枝后模型会变得非常稀疏很多0。这本身并不能直接减少内存占用因为零值仍然需要存储。但稀疏矩阵有专门的存储格式如CSR和计算库可以利用这些零来加速计算、节省内存。不过在MCU上支持高效稀疏计算的开销可能不小这是我们后面要权衡的。下面是一个非常简化的概念性代码展示如何在PyTorch框架下进行幅度剪枝import torch import torch.nn.utils.prune as prune # 假设我们有一个简单的线性层模拟大模型中的一层 layer torch.nn.Linear(100, 10) # 随机初始化一些权重模拟训练好的权重 torch.nn.init.normal_(layer.weight) print(f“原始权重非零元素比例 {(layer.weight ! 0).sum().item() / layer.weight.numel():.2%}”) # 应用L1 unstructured pruning 剪掉50%的权重 prune.l1_unstructured(layer, name“weight”, amount0.5) # 查看剪枝后的掩码mask0表示被剪枝 print(f“剪枝掩码中0的比例 {(layer.weight_mask 0).sum().item() / layer.weight_mask.numel():.2%}”) # 永久性移除被剪枝的权重使其真正为0并移除掩码 prune.remove(layer, ‘weight’) print(f“永久移除后权重非零元素比例 {(layer.weight ! 0).sum().item() / layer.weight.numel():.2%}”)2.2 量化从高精度到低精度如果说剪枝是减少“道路”的数量那么量化就是降低“道路”的修建标准。在神经网络里权重和激活值通常用32位浮点数FP32表示精度高但占用空间大4字节/数。量化就是把它们转换成更低比特位的表示比如8位整数INT81字节/数甚至4位整数INT4。这个过程会损失一些精度但因为神经网络通常对噪声有一定的鲁棒性经过适当的量化训练Quantization-Aware Training, QAT模型性能的下降可以控制在可接受范围内。对于STM32F103C8T6INT8量化是必须的甚至我们要积极探索INT4的可能性。量化能直接带来4倍FP32 - INT8甚至8倍FP32 - INT4的模型存储空间节省同时整数运算在没有FPU的MCU上速度也快得多。一个简单的训练后静态量化Post-Training Static Quantization流程如下准备校准数据准备一批有代表性的输入数据不需要标签。观察范围让模型用这批数据做一次前向传播记录每一层权重和激活值的分布范围最大值、最小值。计算量化参数根据观察到的范围为每一层确定将浮点数映射到整数的比例scale和零点zero point。转换模型将FP32模型转换为INT8模型权重和激活都用整数表示。部署推理部署时使用整数运算进行推理。3. 部署流水线从PyTorch到STM32模型“瘦身”后我们需要一套工具链把它变成MCU能“吃”的格式。大致的流水线是这样的PyTorch模型 - (剪枝/量化) - ONNX格式 - TensorFlow Lite转换器 - TensorFlow Lite MicroTFLM格式 - 集成到STM32工程这里TensorFlow Lite MicroTFLM是我们的关键桥梁。它是一个为微控制器和嵌入式设备设计的TensorFlow Lite子集代码量小运行时内存需求低支持INT8量化模型。具体步骤模型导出与转换将处理好的PyTorch模型先导出为ONNX格式然后使用TensorFlow的转换工具如tf.lite.TFLiteConverter将其转换为TFLite格式.tflite文件。在转换时必须指定量化参数。集成TFLM到STM32项目我们需要将TFLM的源码主要是核心运行时和算子库添加到我们的STM32开发工程中比如使用STM32CubeIDE或PlatformIO。由于资源限制我们通常只编译模型用到的算子以节省Flash空间。模型数据嵌入将转换好的.tflite文件本质上是一个包含模型架构和量化后权重的FlatBuffer作为C语言数组嵌入到我们的固件代码中。这可以通过xxd或类似的二进制转C数组工具来完成。编写推理代码在MCU的主循环中初始化TFLM解释器Interpreter提供输入张量Tensor的数据调用Invoke()方法执行推理最后从输出张量中获取结果。一个极度简化的、概念性的C代码片段如下// 模型数据数组由 .tflite 文件转换而来 extern const unsigned char g_model_data[]; // 定义输入输出张量 TfLiteTensor* input_tensor nullptr; TfLiteTensor* output_tensor nullptr; // 1. 加载模型并构建解释器 static tflite::MicroInterpreter* interpreter nullptr; // ... (初始化 MicroOpResolver, 分配内存等) // 2. 获取输入张量指针并填充数据例如从传感器读取的数据经过预处理后放入 input_tensor interpreter-input(0); // ... 将你的数据拷贝到 input_tensor-data.int8 中 // 3. 执行推理 TfLiteStatus invoke_status interpreter-Invoke(); if (invoke_status ! kTfLiteOk) { // 错误处理 } // 4. 获取输出结果 output_tensor interpreter-output(0); int8_t* output_data output_tensor-data.int8; // ... 处理 output_data得到最终识别结果4. 实战探索与面临的现实问题理论很美好但一上手就会遇到一堆棘手的问题。在STM32F103C8T6上部署简化版Phi-3-Mini我们遇到了几个主要的“拦路虎”1. 模型尺寸的极限压缩即使经过90%以上的剪枝和INT8量化一个从38亿参数模型简化而来的、哪怕只保留最核心注意力机制几层的微型模型其尺寸也可能远超64KB Flash。我们必须设计一个极简的模型架构可能只包含2-3个Transformer层并且隐藏维度hidden dimension要大幅缩减比如从3072减到128或64。这更像是一个受Phi-3架构启发、为MCU全新设计的小模型而不是原模型的直接压缩。2. 运行时内存RAM瓶颈这是最大的挑战。推理过程中的中间激活值特别是注意力机制中的Key、Value缓存会占用大量RAM。对于一个batch_size1、序列长度sequence length大幅缩短比如从128K减到32或64的微型模型我们需要精确计算每一层激活值的内存占用。STM32F103的20KB SRAM很可能连单次前向传播的激活值都装不下。这就需要我们精心设计内存规划使用静态内存分配复用内存缓冲区。使用TFLM的内存规划器但它的开销本身也会占用一部分RAM。考虑模型分片将模型分成几部分依次从Flash加载到RAM执行但这会严重拖慢推理速度。3. 计算速度与实时性在没有硬件加速的情况下在72MHz的Cortex-M3上执行整数矩阵乘法尤其是注意力计算会非常慢。一次推理可能需要数秒甚至更长时间。这意味着它无法用于任何需要实时响应的场景更适合做离线、低频率的推断任务。4. 工具链与算子支持TFLM对标准Transformer算子的支持可能不完整或未优化。我们需要自己实现或适配一些操作如Layer Normalization的量化版本、高效的INT8 Softmax等这增加了工程复杂度。5. 总结与未来展望这次将Phi-3-Mini推向STM32F103C8T6的探索更像是一次“概念验证”。它清晰地告诉我们直接将现代大型语言模型部署到资源极度受限的MCU上目前仍然是不现实的。主要的障碍来自于内存尤其是RAM和算力的绝对鸿沟。但是这个过程的价值不容忽视。它迫使我们去深入理解模型压缩技术的极限去亲手处理内存字节级别的规划去思考如何为特定硬件设计极简的神经网络架构。这些经验对于在资源稍好的边缘设备比如带有几百KB RAM、主频更高的Cortex-M4/M7 MCU或者专用的AI加速芯片上部署更实用的模型至关重要。未来的方向可能更务实一些瞄准更合适的硬件转向RAM更大如256KB、甚至带有NPU的MCU如STM32H7系列、ESP32-S3等这样我们就能部署一个功能更有意义的微型模型。任务特异性设计不再追求通用语言模型而是为单一特定任务如传感器时序模式识别、特定关键词检测从头设计或微调一个超小型网络。这样效率最高。利用新兴格式与工具关注像MLC-LLM这样的编译框架它致力于将大模型高效编译部署到各种后端其对WebGPU和手机端的优化思路或许能启发MCU端的部署。混合计算架构在设备端只部署一个非常轻量的“触发器”模型或特征提取器当它检测到高置信度的简单模式时本地处理遇到复杂情况时再唤醒更强大的协处理器或将数据发送到边缘网关。总之在单片机上跑AI尤其是大模型简化版目前还处于“玩具”或“极限挑战”阶段。但它为我们指明了边缘AI向更深处、更底层发展的路径。每一次对内存和算力的压榨都在推动着轻量化算法和高效运行时技术的进步。也许不久之后我们今天在STM32F103上遇到的困境会在更强大的硬件和更智能的软件协同下迎刃而解。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
