卡证检测矫正模型环境部署解决CUDA_VISIBLE_DEVICES未生效问题1. 引言你有没有遇到过这种情况好不容易找到一个好用的AI模型比如这个能自动检测并矫正身份证、护照的卡证检测模型兴致勃勃地准备部署结果环境配置就卡住了。特别是当你有多块GPU想指定其中一块来跑模型时设置了CUDA_VISIBLE_DEVICES环境变量却发现模型根本不听你的还是跑在了默认的GPU 0上。今天我就带你彻底解决这个问题。我们将以ModelScope上的iic/cv_resnet_carddetection_scrfd34gkps模型为例手把手教你如何正确部署这个卡证检测矫正模型并重点攻克CUDA_VISIBLE_DEVICES不生效这个“顽疾”。这个模型能做什么呢简单说你给它一张含有身份证、护照或驾照的图片它能帮你找到卡证在图片中的位置框出来精准定位卡证的四个角点把倾斜、透视变形的卡证“掰正”输出一张规规矩矩的正视角图片这对于需要批量处理证照的办公场景、金融开户的远程审核简直是效率神器。废话不多说我们直接开始。2. 环境准备与问题复现在解决问题之前我们得先知道问题是怎么出现的。很多人部署深度学习模型时会想当然地认为只要在命令行里设置一下环境变量一切就搞定了。但现实往往更复杂。2.1 基础环境搭建首先你需要一个基本的Python深度学习环境。我假设你已经安装了Miniconda或Anaconda。我们创建一个专门的环境# 创建并激活一个新的conda环境 conda create -n card_detection python3.8 -y conda activate card_detection # 安装PyTorch请根据你的CUDA版本选择 # 例如对于CUDA 11.3 pip install torch1.12.1cu113 torchvision0.13.1cu113 torchaudio0.12.1 --extra-index-url https://download.pytorch.org/whl/cu113 # 安装ModelScope pip install modelscope2.2 问题复现CUDA_VISIBLE_DEVICES为何失效现在假设你的机器上有两块GPUGPU 0和GPU 1你想让模型跑在GPU 1上。很多人会这样做# 方法1在命令行中直接设置这是最常见的错误尝试之一 CUDA_VISIBLE_ICES1 python your_script.py # 或者方法2在Python脚本中设置 import os os.environ[CUDA_VISIBLE_DEVICES] 1然后你运行模型满怀期待地打开nvidia-smi查看却发现进程依然跑在GPU 0上。为什么这里有个关键点CUDA_VISIBLE_DEVICES环境变量必须在PyTorch导入之前设置。一旦PyTorch被导入它就会初始化CUDA上下文此时再修改环境变量就无效了。让我们写个简单的复现脚本# 错误示例先导入torch再设置环境变量 import torch import os # 这时候设置已经晚了 os.environ[CUDA_VISIBLE_DEVICES] 1 print(f可见设备: {os.environ.get(CUDA_VISIBLE_DEVICES)}) print(fPyTorch看到的设备数量: {torch.cuda.device_count()}) print(f当前设备: {torch.cuda.current_device()})运行这个脚本你会发现PyTorch仍然能看到所有GPU而不是你指定的那一个。3. 正确部署卡证检测矫正模型知道了问题所在我们现在来正确部署这个卡证检测模型。我会分步骤讲解确保你能一次成功。3.1 模型下载与加载首先我们从ModelScope获取模型。这个模型ID是iic/cv_resnet_carddetection_scrfd34gkps它是一个基于SCRFD架构的卡证检测模型。# correct_deployment.py import os import sys # 关键步骤在导入任何torch相关库之前设置环境变量 os.environ[CUDA_VISIBLE_DEVICES] 1 # 指定使用GPU 1 # 现在才导入torch和modelscope import torch from modelscope.pipelines import pipeline from modelscope.utils.constant import Tasks from modelscope.models import Model import cv2 import numpy as np import json def load_card_detection_model(): 加载卡证检测矫正模型 print( * 50) print(开始加载卡证检测模型...) print(fPyTorch版本: {torch.__version__}) print(fCUDA可用: {torch.cuda.is_available()}) print(f设备数量: {torch.cuda.device_count()}) print(f当前设备: {torch.cuda.current_device()}) print(f设备名称: {torch.cuda.get_device_name()}) print( * 50) # 模型ID model_id iic/cv_resnet_carddetection_scrfd34gkps try: # 创建卡证检测pipeline card_detection pipeline( Tasks.card_detection, modelmodel_id, devicecuda # 使用GPU ) print(✅ 模型加载成功) return card_detection except Exception as e: print(f❌ 模型加载失败: {e}) return None3.2 验证GPU指定是否成功加载模型后我们需要验证一下是否真的用上了我们指定的GPU。写个简单的验证函数def verify_gpu_selection(): 验证GPU选择是否生效 print(\n 验证GPU配置:) print(f环境变量 CUDA_VISIBLE_DEVICES: {os.environ.get(CUDA_VISIBLE_DEVICES)}) # 检查torch看到的设备 if torch.cuda.is_available(): device_count torch.cuda.device_count() print(fPyTorch检测到的GPU数量: {device_count}) for i in range(device_count): print(f GPU {i}: {torch.cuda.get_device_name(i)}) current_device torch.cuda.current_device() print(f当前使用的GPU索引: {current_device}) print(f当前使用的GPU名称: {torch.cuda.get_device_name(current_device)}) # 检查内存使用情况 for i in range(device_count): allocated torch.cuda.memory_allocated(i) / 1024**2 reserved torch.cuda.memory_reserved(i) / 1024**2 print(f GPU {i} - 已分配内存: {allocated:.2f} MB, 保留内存: {reserved:.2f} MB) else: print(⚠️ CUDA不可用正在使用CPU) return torch.cuda.is_available()3.3 完整的模型使用示例现在让我们写一个完整的示例展示如何使用这个模型处理一张身份证图片def detect_and_correct_card(model_pipeline, image_path, confidence_threshold0.45): 检测并矫正卡证 参数: model_pipeline: 加载的模型pipeline image_path: 输入图片路径 confidence_threshold: 置信度阈值默认0.45 返回: dict: 包含检测结果和矫正图像 print(f\n 处理图片: {image_path}) # 读取图片 if not os.path.exists(image_path): print(f❌ 图片不存在: {image_path}) return None # 使用OpenCV读取图片 image cv2.imread(image_path) if image is None: print(f❌ 无法读取图片: {image_path}) return None print(f图片尺寸: {image.shape}) # 执行卡证检测 print(开始检测卡证...) result model_pipeline(image_path) if not result: print(⚠️ 未检测到卡证) return None print(f✅ 检测完成找到 {len(result[boxes])} 个卡证) # 解析结果 output { image_path: image_path, detection_count: len(result[boxes]), scores: result[scores].tolist() if hasattr(result[scores], tolist) else result[scores], boxes: result[boxes].tolist() if hasattr(result[boxes], tolist) else result[boxes], keypoints: result[keypoints].tolist() if hasattr(result[keypoints], tolist) else result[keypoints], corrected_images: [] } # 显示检测结果 print(f\n 检测结果明细:) print(f置信度分数: {output[scores]}) for i, (score, box) in enumerate(zip(output[scores], output[boxes])): print(f\n卡证 #{i1}:) print(f 置信度: {score:.4f}) print(f 边界框: {box}) print(f 角点坐标: {output[keypoints][i]}) # 如果有矫正后的图像 if corrected_imgs in result: for i, corrected_img in enumerate(result[corrected_imgs]): # 保存矫正后的图像 output_path fcorrected_card_{i1}.jpg cv2.imwrite(output_path, corrected_img) output[corrected_images].append(output_path) print(f✅ 矫正图像已保存: {output_path}) return output def main(): 主函数完整的部署和使用流程 print( 卡证检测矫正模型部署指南) print( * 50) # 步骤1验证GPU配置 gpu_available verify_gpu_selection() if not gpu_available: print(⚠️ 警告未检测到可用GPU将使用CPU运行速度会慢很多) print(建议检查) print(1. NVIDIA驱动是否正确安装) print(2. CUDA工具包是否安装) print(3. PyTorch的CUDA版本是否匹配) # 步骤2加载模型 model load_card_detection_model() if model is None: print(❌ 模型加载失败程序退出) return # 步骤3准备测试图片 # 这里你需要准备一张包含卡证的图片 test_image test_id_card.jpg # 替换为你的图片路径 # 如果测试图片不存在创建一个简单的示例 if not os.path.exists(test_image): print(f\n⚠️ 测试图片 {test_image} 不存在) print(创建示例图片中...) create_sample_image(test_image) # 步骤4运行检测 print(\n * 50) print(开始卡证检测与矫正...) # 使用不同的阈值尝试 thresholds [0.3, 0.45, 0.6] for threshold in thresholds: print(f\n 使用阈值 {threshold} 进行检测:) result detect_and_correct_card(model, test_image, threshold) if result and result[detection_count] 0: print(f✅ 阈值 {threshold} 检测成功) break else: print(f⚠️ 阈值 {threshold} 未检测到卡证) print(\n * 50) print( 部署完成) # 保存结果到JSON文件 if result: with open(detection_result.json, w, encodingutf-8) as f: json.dump(result, f, ensure_asciiFalse, indent2) print(结果已保存到 detection_result.json) def create_sample_image(output_path): 创建一个简单的测试图片如果用户没有测试图片 # 创建一个简单的身份证示例图片 img np.ones((600, 800, 3), dtypenp.uint8) * 255 # 画一个身份证轮廓 cv2.rectangle(img, (200, 150), (600, 450), (0, 0, 0), 3) # 添加一些文字模拟身份证内容 font cv2.FONT_HERSHEY_SIMPLEX cv2.putText(img, 姓名张三, (220, 200), font, 0.7, (0, 0, 0), 2) cv2.putText(img, 性别男, (220, 250), font, 0.7, (0, 0, 0), 2) cv2.putText(img, 民族汉, (220, 300), font, 0.7, (0, 0, 0), 2) cv2.putText(img, 公民身份号码, (220, 350), font, 0.7, (0, 0, 0), 2) cv2.putText(img, 123456199001011234, (220, 400), font, 0.7, (0, 0, 0), 2) cv2.imwrite(output_path, img) print(f示例图片已创建: {output_path}) if __name__ __main__: main()4. 高级配置与优化建议现在你已经成功部署了模型并且确保了GPU的正确指定。接下来我们看看如何进一步优化和配置。4.1 使用Supervisor管理服务生产环境推荐对于生产环境我们通常希望服务能够自动重启、日志管理、进程监控。Supervisor是一个很好的选择。首先安装Supervisor# 安装Supervisor sudo apt-get update sudo apt-get install supervisor # 或者使用pip安装 pip install supervisor创建Supervisor配置文件; /etc/supervisor/conf.d/carddet.conf [program:carddet] command/path/to/your/conda/env/bin/python /path/to/your/card_detection_service.py directory/path/to/your/working/directory useryour_username environmentCUDA_VISIBLE_DEVICES1,PATH/path/to/your/conda/env/bin:%(ENV_PATH)s autostarttrue autorestarttrue startretries3 stderr_logfile/var/log/carddet.err.log stdout_logfile/var/log/carddet.out.log关键点在Supervisor配置中通过environment参数设置CUDA_VISIBLE_DEVICES这样能确保在进程启动时就正确设置环境变量。4.2 多GPU负载均衡策略如果你有多个GPU并且想要更精细地控制资源分配可以考虑以下策略# multi_gpu_strategy.py import os import torch from modelscope.pipelines import pipeline from modelscope.utils.constant import Tasks class MultiGPUCardDetector: def __init__(self, gpu_ids0,1): 初始化多GPU卡证检测器 参数: gpu_ids: 可用的GPU ID逗号分隔如 0,1,2 self.gpu_ids [int(x.strip()) for x in gpu_ids.split(,)] self.models [] self.current_gpu 0 # 在每个GPU上加载一个模型实例 for gpu_id in self.gpu_ids: os.environ[CUDA_VISIBLE_DEVICES] str(gpu_id) torch.cuda.empty_cache() # 清空缓存 try: model pipeline( Tasks.card_detection, modeliic/cv_resnet_carddetection_scrfd34gkps, devicecuda ) self.models.append({ gpu_id: gpu_id, model: model, in_use: False }) print(f✅ 在GPU {gpu_id}上加载模型成功) except Exception as e: print(f❌ 在GPU {gpu_id}上加载模型失败: {e}) def get_available_model(self): 获取一个可用的模型实例简单的轮询负载均衡 if not self.models: return None # 简单的轮询策略 model_info self.models[self.current_gpu % len(self.models)] self.current_gpu (self.current_gpu 1) % len(self.models) return model_info[model] def detect(self, image_path): 使用负载均衡策略进行检测 model self.get_available_model() if model is None: print(❌ 没有可用的模型) return None return model(image_path) # 使用示例 if __name__ __main__: # 使用GPU 0和1 detector MultiGPUCardDetector(gpu_ids0,1) # 批量处理图片 image_paths [id1.jpg, id2.jpg, id3.jpg, id4.jpg] for img_path in image_paths: result detector.detect(img_path) if result: print(f处理 {img_path}: 找到 {len(result[boxes])} 个卡证)4.3 性能监控与调优部署完成后我们需要监控模型的性能确保它稳定运行# performance_monitor.py import time import psutil import GPUtil from datetime import datetime class PerformanceMonitor: def __init__(self): self.start_time time.time() self.process psutil.Process() def get_system_stats(self): 获取系统统计信息 stats { timestamp: datetime.now().strftime(%Y-%m-%d %H:%M:%S), cpu_percent: psutil.cpu_percent(interval1), memory_percent: psutil.virtual_memory().percent, process_memory_mb: self.process.memory_info().rss / 1024 / 1024 } # GPU信息 try: gpus GPUtil.getGPUs() for i, gpu in enumerate(gpus): stats[fgpu_{i}_load] gpu.load * 100 stats[fgpu_{i}_memory_used] gpu.memoryUsed stats[fgpu_{i}_memory_total] gpu.memoryTotal stats[fgpu_{i}_temperature] gpu.temperature except: stats[gpu_info] GPU信息获取失败 return stats def log_inference_time(self, image_path, inference_time): 记录推理时间 with open(inference_log.csv, a) as f: f.write(f{datetime.now()},{image_path},{inference_time:.3f}\n) def check_health(self): 检查系统健康状态 stats self.get_system_stats() warnings [] # 检查CPU使用率 if stats[cpu_percent] 90: warnings.append(fCPU使用率过高: {stats[cpu_percent]}%) # 检查内存使用率 if stats[memory_percent] 90: warnings.append(f内存使用率过高: {stats[memory_percent]}%) # 检查GPU温度 for key in stats: if temperature in key and stats[key] 85: warnings.append(f{key}温度过高: {stats[key]}°C) return warnings # 在检测函数中添加性能监控 def detect_with_monitoring(model_pipeline, image_path, monitor): 带性能监控的检测函数 start_time time.time() # 健康检查 warnings monitor.check_health() if warnings: print(⚠️ 系统警告:) for warning in warnings: print(f - {warning}) # 执行检测 result model_pipeline(image_path) # 计算推理时间 inference_time time.time() - start_time monitor.log_inference_time(image_path, inference_time) # 获取当前系统状态 stats monitor.get_system_stats() print(f\n 性能统计:) print(f推理时间: {inference_time:.3f}秒) print(fCPU使用率: {stats[cpu_percent]}%) print(f内存使用: {stats[process_memory_mb]:.1f} MB) return result5. 常见问题与解决方案在部署和使用过程中你可能会遇到各种问题。这里我整理了一些常见问题及其解决方案。5.1 CUDA相关问题问题1CUDA_VISIBLE_DEVICES设置后PyTorch仍然看到所有GPU解决方案确保在导入torch之前设置环境变量检查是否有其他代码在导入torch后修改了环境变量使用我提供的验证脚本来确认配置问题2CUDA out of memory错误解决方案# 在代码开始时添加 import torch torch.cuda.empty_cache() # 清空缓存 # 减少批量大小如果支持 # 使用更小的模型如果有的话 # 监控GPU内存使用5.2 模型加载问题问题模型下载慢或失败解决方案设置镜像源加速下载import os os.environ[MODELSCOPE_CACHE] /path/to/your/cache os.environ[MODELSCOPE_ENDPOINT] https://mirror.example.com手动下载模型文件# 使用wget或curl手动下载 wget https://modelscope.cn/api/v1/models/iic/cv_resnet_carddetection_scrfd34gkps/repo?Revisionmaster5.3 检测效果问题问题检测不到卡证或检测效果差解决方案调整置信度阈值根据实际情况调整光线较暗或图片模糊降低阈值到0.3-0.4误检较多提高阈值到0.5-0.65图片预处理def preprocess_image(image_path): 图片预处理函数 import cv2 import numpy as np # 读取图片 img cv2.imread(image_path) # 调整大小保持宽高比 max_size 1024 h, w img.shape[:2] if max(h, w) max_size: scale max_size / max(h, w) new_w, new_h int(w * scale), int(h * scale) img cv2.resize(img, (new_w, new_h)) # 增强对比度可选 # img cv2.convertScaleAbs(img, alpha1.2, beta0) return img后处理优化def postprocess_results(result, min_score0.3, max_cards5): 结果后处理 if not result or scores not in result: return None # 过滤低置信度的检测 filtered_indices [i for i, score in enumerate(result[scores]) if score min_score] # 限制最大数量 filtered_indices filtered_indices[:max_cards] # 构建过滤后的结果 filtered_result { scores: [result[scores][i] for i in filtered_indices], boxes: [result[boxes][i] for i in filtered_indices], keypoints: [result[keypoints][i] for i in filtered_indices] } return filtered_result5.4 服务部署问题问题服务启动失败或端口被占用解决方案# 检查端口占用 sudo lsof -i :7860 # 如果端口被占用杀死进程 sudo kill -9 PID # 或者更换端口 # 修改启动脚本中的端口号6. 总结通过本文的详细讲解你应该已经掌握了卡证检测矫正模型的完整部署流程特别是解决了CUDA_VISIBLE_DEVICES环境变量不生效这个常见问题。让我们回顾一下关键要点6.1 核心要点回顾环境变量设置时机是关键必须在导入PyTorch之前设置CUDA_VISIBLE_DEVICES否则设置无效。完整的部署流程创建独立的Python环境正确安装PyTorch和ModelScope在代码最开始处设置GPU环境变量验证GPU配置是否生效加载模型并进行测试生产环境最佳实践使用Supervisor管理服务进程在Supervisor配置中设置环境变量添加健康检查和监控实现日志记录和错误处理性能优化建议根据图片质量调整置信度阈值添加图片预处理和后处理监控GPU内存使用及时清理缓存考虑多GPU负载均衡如果需要处理大量图片6.2 实际应用建议在实际业务中部署这个模型时我建议从小规模开始先用少量图片测试调整好参数后再大规模应用。添加容错机制网络请求、图片读取、模型推理都可能出错要有相应的错误处理和重试机制。考虑异步处理如果处理量大可以考虑使用消息队列如RabbitMQ、Redis实现异步处理。定期更新模型关注ModelScope上的模型更新及时升级到新版本。监控与告警设置关键指标如响应时间、成功率的监控和告警。6.3 下一步学习方向如果你对这个模型感兴趣可以进一步探索模型微调使用自己的卡证数据对模型进行微调提升在特定场景下的准确率。集成到业务系统将模型服务封装成API方便其他系统调用。性能优化探索模型量化、TensorRT加速等技术进一步提升推理速度。多模型组合结合OCR模型实现从检测到识别的完整流程。卡证检测矫正是一个非常有实用价值的技术能够在金融、政务、教育等多个领域提升效率。希望本文能帮助你顺利部署和应用这个模型。如果在实践中遇到其他问题欢迎随时交流讨论。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
卡证检测矫正模型环境部署：解决CUDA_VISIBLE_DEVICES未生效问题
卡证检测矫正模型环境部署解决CUDA_VISIBLE_DEVICES未生效问题1. 引言你有没有遇到过这种情况好不容易找到一个好用的AI模型比如这个能自动检测并矫正身份证、护照的卡证检测模型兴致勃勃地准备部署结果环境配置就卡住了。特别是当你有多块GPU想指定其中一块来跑模型时设置了CUDA_VISIBLE_DEVICES环境变量却发现模型根本不听你的还是跑在了默认的GPU 0上。今天我就带你彻底解决这个问题。我们将以ModelScope上的iic/cv_resnet_carddetection_scrfd34gkps模型为例手把手教你如何正确部署这个卡证检测矫正模型并重点攻克CUDA_VISIBLE_DEVICES不生效这个“顽疾”。这个模型能做什么呢简单说你给它一张含有身份证、护照或驾照的图片它能帮你找到卡证在图片中的位置框出来精准定位卡证的四个角点把倾斜、透视变形的卡证“掰正”输出一张规规矩矩的正视角图片这对于需要批量处理证照的办公场景、金融开户的远程审核简直是效率神器。废话不多说我们直接开始。2. 环境准备与问题复现在解决问题之前我们得先知道问题是怎么出现的。很多人部署深度学习模型时会想当然地认为只要在命令行里设置一下环境变量一切就搞定了。但现实往往更复杂。2.1 基础环境搭建首先你需要一个基本的Python深度学习环境。我假设你已经安装了Miniconda或Anaconda。我们创建一个专门的环境# 创建并激活一个新的conda环境 conda create -n card_detection python3.8 -y conda activate card_detection # 安装PyTorch请根据你的CUDA版本选择 # 例如对于CUDA 11.3 pip install torch1.12.1cu113 torchvision0.13.1cu113 torchaudio0.12.1 --extra-index-url https://download.pytorch.org/whl/cu113 # 安装ModelScope pip install modelscope2.2 问题复现CUDA_VISIBLE_DEVICES为何失效现在假设你的机器上有两块GPUGPU 0和GPU 1你想让模型跑在GPU 1上。很多人会这样做# 方法1在命令行中直接设置这是最常见的错误尝试之一 CUDA_VISIBLE_ICES1 python your_script.py # 或者方法2在Python脚本中设置 import os os.environ[CUDA_VISIBLE_DEVICES] 1然后你运行模型满怀期待地打开nvidia-smi查看却发现进程依然跑在GPU 0上。为什么这里有个关键点CUDA_VISIBLE_DEVICES环境变量必须在PyTorch导入之前设置。一旦PyTorch被导入它就会初始化CUDA上下文此时再修改环境变量就无效了。让我们写个简单的复现脚本# 错误示例先导入torch再设置环境变量 import torch import os # 这时候设置已经晚了 os.environ[CUDA_VISIBLE_DEVICES] 1 print(f可见设备: {os.environ.get(CUDA_VISIBLE_DEVICES)}) print(fPyTorch看到的设备数量: {torch.cuda.device_count()}) print(f当前设备: {torch.cuda.current_device()})运行这个脚本你会发现PyTorch仍然能看到所有GPU而不是你指定的那一个。3. 正确部署卡证检测矫正模型知道了问题所在我们现在来正确部署这个卡证检测模型。我会分步骤讲解确保你能一次成功。3.1 模型下载与加载首先我们从ModelScope获取模型。这个模型ID是iic/cv_resnet_carddetection_scrfd34gkps它是一个基于SCRFD架构的卡证检测模型。# correct_deployment.py import os import sys # 关键步骤在导入任何torch相关库之前设置环境变量 os.environ[CUDA_VISIBLE_DEVICES] 1 # 指定使用GPU 1 # 现在才导入torch和modelscope import torch from modelscope.pipelines import pipeline from modelscope.utils.constant import Tasks from modelscope.models import Model import cv2 import numpy as np import json def load_card_detection_model(): 加载卡证检测矫正模型 print( * 50) print(开始加载卡证检测模型...) print(fPyTorch版本: {torch.__version__}) print(fCUDA可用: {torch.cuda.is_available()}) print(f设备数量: {torch.cuda.device_count()}) print(f当前设备: {torch.cuda.current_device()}) print(f设备名称: {torch.cuda.get_device_name()}) print( * 50) # 模型ID model_id iic/cv_resnet_carddetection_scrfd34gkps try: # 创建卡证检测pipeline card_detection pipeline( Tasks.card_detection, modelmodel_id, devicecuda # 使用GPU ) print(✅ 模型加载成功) return card_detection except Exception as e: print(f❌ 模型加载失败: {e}) return None3.2 验证GPU指定是否成功加载模型后我们需要验证一下是否真的用上了我们指定的GPU。写个简单的验证函数def verify_gpu_selection(): 验证GPU选择是否生效 print(\n 验证GPU配置:) print(f环境变量 CUDA_VISIBLE_DEVICES: {os.environ.get(CUDA_VISIBLE_DEVICES)}) # 检查torch看到的设备 if torch.cuda.is_available(): device_count torch.cuda.device_count() print(fPyTorch检测到的GPU数量: {device_count}) for i in range(device_count): print(f GPU {i}: {torch.cuda.get_device_name(i)}) current_device torch.cuda.current_device() print(f当前使用的GPU索引: {current_device}) print(f当前使用的GPU名称: {torch.cuda.get_device_name(current_device)}) # 检查内存使用情况 for i in range(device_count): allocated torch.cuda.memory_allocated(i) / 1024**2 reserved torch.cuda.memory_reserved(i) / 1024**2 print(f GPU {i} - 已分配内存: {allocated:.2f} MB, 保留内存: {reserved:.2f} MB) else: print(⚠️ CUDA不可用正在使用CPU) return torch.cuda.is_available()3.3 完整的模型使用示例现在让我们写一个完整的示例展示如何使用这个模型处理一张身份证图片def detect_and_correct_card(model_pipeline, image_path, confidence_threshold0.45): 检测并矫正卡证 参数: model_pipeline: 加载的模型pipeline image_path: 输入图片路径 confidence_threshold: 置信度阈值默认0.45 返回: dict: 包含检测结果和矫正图像 print(f\n 处理图片: {image_path}) # 读取图片 if not os.path.exists(image_path): print(f❌ 图片不存在: {image_path}) return None # 使用OpenCV读取图片 image cv2.imread(image_path) if image is None: print(f❌ 无法读取图片: {image_path}) return None print(f图片尺寸: {image.shape}) # 执行卡证检测 print(开始检测卡证...) result model_pipeline(image_path) if not result: print(⚠️ 未检测到卡证) return None print(f✅ 检测完成找到 {len(result[boxes])} 个卡证) # 解析结果 output { image_path: image_path, detection_count: len(result[boxes]), scores: result[scores].tolist() if hasattr(result[scores], tolist) else result[scores], boxes: result[boxes].tolist() if hasattr(result[boxes], tolist) else result[boxes], keypoints: result[keypoints].tolist() if hasattr(result[keypoints], tolist) else result[keypoints], corrected_images: [] } # 显示检测结果 print(f\n 检测结果明细:) print(f置信度分数: {output[scores]}) for i, (score, box) in enumerate(zip(output[scores], output[boxes])): print(f\n卡证 #{i1}:) print(f 置信度: {score:.4f}) print(f 边界框: {box}) print(f 角点坐标: {output[keypoints][i]}) # 如果有矫正后的图像 if corrected_imgs in result: for i, corrected_img in enumerate(result[corrected_imgs]): # 保存矫正后的图像 output_path fcorrected_card_{i1}.jpg cv2.imwrite(output_path, corrected_img) output[corrected_images].append(output_path) print(f✅ 矫正图像已保存: {output_path}) return output def main(): 主函数完整的部署和使用流程 print( 卡证检测矫正模型部署指南) print( * 50) # 步骤1验证GPU配置 gpu_available verify_gpu_selection() if not gpu_available: print(⚠️ 警告未检测到可用GPU将使用CPU运行速度会慢很多) print(建议检查) print(1. NVIDIA驱动是否正确安装) print(2. CUDA工具包是否安装) print(3. PyTorch的CUDA版本是否匹配) # 步骤2加载模型 model load_card_detection_model() if model is None: print(❌ 模型加载失败程序退出) return # 步骤3准备测试图片 # 这里你需要准备一张包含卡证的图片 test_image test_id_card.jpg # 替换为你的图片路径 # 如果测试图片不存在创建一个简单的示例 if not os.path.exists(test_image): print(f\n⚠️ 测试图片 {test_image} 不存在) print(创建示例图片中...) create_sample_image(test_image) # 步骤4运行检测 print(\n * 50) print(开始卡证检测与矫正...) # 使用不同的阈值尝试 thresholds [0.3, 0.45, 0.6] for threshold in thresholds: print(f\n 使用阈值 {threshold} 进行检测:) result detect_and_correct_card(model, test_image, threshold) if result and result[detection_count] 0: print(f✅ 阈值 {threshold} 检测成功) break else: print(f⚠️ 阈值 {threshold} 未检测到卡证) print(\n * 50) print( 部署完成) # 保存结果到JSON文件 if result: with open(detection_result.json, w, encodingutf-8) as f: json.dump(result, f, ensure_asciiFalse, indent2) print(结果已保存到 detection_result.json) def create_sample_image(output_path): 创建一个简单的测试图片如果用户没有测试图片 # 创建一个简单的身份证示例图片 img np.ones((600, 800, 3), dtypenp.uint8) * 255 # 画一个身份证轮廓 cv2.rectangle(img, (200, 150), (600, 450), (0, 0, 0), 3) # 添加一些文字模拟身份证内容 font cv2.FONT_HERSHEY_SIMPLEX cv2.putText(img, 姓名张三, (220, 200), font, 0.7, (0, 0, 0), 2) cv2.putText(img, 性别男, (220, 250), font, 0.7, (0, 0, 0), 2) cv2.putText(img, 民族汉, (220, 300), font, 0.7, (0, 0, 0), 2) cv2.putText(img, 公民身份号码, (220, 350), font, 0.7, (0, 0, 0), 2) cv2.putText(img, 123456199001011234, (220, 400), font, 0.7, (0, 0, 0), 2) cv2.imwrite(output_path, img) print(f示例图片已创建: {output_path}) if __name__ __main__: main()4. 高级配置与优化建议现在你已经成功部署了模型并且确保了GPU的正确指定。接下来我们看看如何进一步优化和配置。4.1 使用Supervisor管理服务生产环境推荐对于生产环境我们通常希望服务能够自动重启、日志管理、进程监控。Supervisor是一个很好的选择。首先安装Supervisor# 安装Supervisor sudo apt-get update sudo apt-get install supervisor # 或者使用pip安装 pip install supervisor创建Supervisor配置文件; /etc/supervisor/conf.d/carddet.conf [program:carddet] command/path/to/your/conda/env/bin/python /path/to/your/card_detection_service.py directory/path/to/your/working/directory useryour_username environmentCUDA_VISIBLE_DEVICES1,PATH/path/to/your/conda/env/bin:%(ENV_PATH)s autostarttrue autorestarttrue startretries3 stderr_logfile/var/log/carddet.err.log stdout_logfile/var/log/carddet.out.log关键点在Supervisor配置中通过environment参数设置CUDA_VISIBLE_DEVICES这样能确保在进程启动时就正确设置环境变量。4.2 多GPU负载均衡策略如果你有多个GPU并且想要更精细地控制资源分配可以考虑以下策略# multi_gpu_strategy.py import os import torch from modelscope.pipelines import pipeline from modelscope.utils.constant import Tasks class MultiGPUCardDetector: def __init__(self, gpu_ids0,1): 初始化多GPU卡证检测器 参数: gpu_ids: 可用的GPU ID逗号分隔如 0,1,2 self.gpu_ids [int(x.strip()) for x in gpu_ids.split(,)] self.models [] self.current_gpu 0 # 在每个GPU上加载一个模型实例 for gpu_id in self.gpu_ids: os.environ[CUDA_VISIBLE_DEVICES] str(gpu_id) torch.cuda.empty_cache() # 清空缓存 try: model pipeline( Tasks.card_detection, modeliic/cv_resnet_carddetection_scrfd34gkps, devicecuda ) self.models.append({ gpu_id: gpu_id, model: model, in_use: False }) print(f✅ 在GPU {gpu_id}上加载模型成功) except Exception as e: print(f❌ 在GPU {gpu_id}上加载模型失败: {e}) def get_available_model(self): 获取一个可用的模型实例简单的轮询负载均衡 if not self.models: return None # 简单的轮询策略 model_info self.models[self.current_gpu % len(self.models)] self.current_gpu (self.current_gpu 1) % len(self.models) return model_info[model] def detect(self, image_path): 使用负载均衡策略进行检测 model self.get_available_model() if model is None: print(❌ 没有可用的模型) return None return model(image_path) # 使用示例 if __name__ __main__: # 使用GPU 0和1 detector MultiGPUCardDetector(gpu_ids0,1) # 批量处理图片 image_paths [id1.jpg, id2.jpg, id3.jpg, id4.jpg] for img_path in image_paths: result detector.detect(img_path) if result: print(f处理 {img_path}: 找到 {len(result[boxes])} 个卡证)4.3 性能监控与调优部署完成后我们需要监控模型的性能确保它稳定运行# performance_monitor.py import time import psutil import GPUtil from datetime import datetime class PerformanceMonitor: def __init__(self): self.start_time time.time() self.process psutil.Process() def get_system_stats(self): 获取系统统计信息 stats { timestamp: datetime.now().strftime(%Y-%m-%d %H:%M:%S), cpu_percent: psutil.cpu_percent(interval1), memory_percent: psutil.virtual_memory().percent, process_memory_mb: self.process.memory_info().rss / 1024 / 1024 } # GPU信息 try: gpus GPUtil.getGPUs() for i, gpu in enumerate(gpus): stats[fgpu_{i}_load] gpu.load * 100 stats[fgpu_{i}_memory_used] gpu.memoryUsed stats[fgpu_{i}_memory_total] gpu.memoryTotal stats[fgpu_{i}_temperature] gpu.temperature except: stats[gpu_info] GPU信息获取失败 return stats def log_inference_time(self, image_path, inference_time): 记录推理时间 with open(inference_log.csv, a) as f: f.write(f{datetime.now()},{image_path},{inference_time:.3f}\n) def check_health(self): 检查系统健康状态 stats self.get_system_stats() warnings [] # 检查CPU使用率 if stats[cpu_percent] 90: warnings.append(fCPU使用率过高: {stats[cpu_percent]}%) # 检查内存使用率 if stats[memory_percent] 90: warnings.append(f内存使用率过高: {stats[memory_percent]}%) # 检查GPU温度 for key in stats: if temperature in key and stats[key] 85: warnings.append(f{key}温度过高: {stats[key]}°C) return warnings # 在检测函数中添加性能监控 def detect_with_monitoring(model_pipeline, image_path, monitor): 带性能监控的检测函数 start_time time.time() # 健康检查 warnings monitor.check_health() if warnings: print(⚠️ 系统警告:) for warning in warnings: print(f - {warning}) # 执行检测 result model_pipeline(image_path) # 计算推理时间 inference_time time.time() - start_time monitor.log_inference_time(image_path, inference_time) # 获取当前系统状态 stats monitor.get_system_stats() print(f\n 性能统计:) print(f推理时间: {inference_time:.3f}秒) print(fCPU使用率: {stats[cpu_percent]}%) print(f内存使用: {stats[process_memory_mb]:.1f} MB) return result5. 常见问题与解决方案在部署和使用过程中你可能会遇到各种问题。这里我整理了一些常见问题及其解决方案。5.1 CUDA相关问题问题1CUDA_VISIBLE_DEVICES设置后PyTorch仍然看到所有GPU解决方案确保在导入torch之前设置环境变量检查是否有其他代码在导入torch后修改了环境变量使用我提供的验证脚本来确认配置问题2CUDA out of memory错误解决方案# 在代码开始时添加 import torch torch.cuda.empty_cache() # 清空缓存 # 减少批量大小如果支持 # 使用更小的模型如果有的话 # 监控GPU内存使用5.2 模型加载问题问题模型下载慢或失败解决方案设置镜像源加速下载import os os.environ[MODELSCOPE_CACHE] /path/to/your/cache os.environ[MODELSCOPE_ENDPOINT] https://mirror.example.com手动下载模型文件# 使用wget或curl手动下载 wget https://modelscope.cn/api/v1/models/iic/cv_resnet_carddetection_scrfd34gkps/repo?Revisionmaster5.3 检测效果问题问题检测不到卡证或检测效果差解决方案调整置信度阈值根据实际情况调整光线较暗或图片模糊降低阈值到0.3-0.4误检较多提高阈值到0.5-0.65图片预处理def preprocess_image(image_path): 图片预处理函数 import cv2 import numpy as np # 读取图片 img cv2.imread(image_path) # 调整大小保持宽高比 max_size 1024 h, w img.shape[:2] if max(h, w) max_size: scale max_size / max(h, w) new_w, new_h int(w * scale), int(h * scale) img cv2.resize(img, (new_w, new_h)) # 增强对比度可选 # img cv2.convertScaleAbs(img, alpha1.2, beta0) return img后处理优化def postprocess_results(result, min_score0.3, max_cards5): 结果后处理 if not result or scores not in result: return None # 过滤低置信度的检测 filtered_indices [i for i, score in enumerate(result[scores]) if score min_score] # 限制最大数量 filtered_indices filtered_indices[:max_cards] # 构建过滤后的结果 filtered_result { scores: [result[scores][i] for i in filtered_indices], boxes: [result[boxes][i] for i in filtered_indices], keypoints: [result[keypoints][i] for i in filtered_indices] } return filtered_result5.4 服务部署问题问题服务启动失败或端口被占用解决方案# 检查端口占用 sudo lsof -i :7860 # 如果端口被占用杀死进程 sudo kill -9 PID # 或者更换端口 # 修改启动脚本中的端口号6. 总结通过本文的详细讲解你应该已经掌握了卡证检测矫正模型的完整部署流程特别是解决了CUDA_VISIBLE_DEVICES环境变量不生效这个常见问题。让我们回顾一下关键要点6.1 核心要点回顾环境变量设置时机是关键必须在导入PyTorch之前设置CUDA_VISIBLE_DEVICES否则设置无效。完整的部署流程创建独立的Python环境正确安装PyTorch和ModelScope在代码最开始处设置GPU环境变量验证GPU配置是否生效加载模型并进行测试生产环境最佳实践使用Supervisor管理服务进程在Supervisor配置中设置环境变量添加健康检查和监控实现日志记录和错误处理性能优化建议根据图片质量调整置信度阈值添加图片预处理和后处理监控GPU内存使用及时清理缓存考虑多GPU负载均衡如果需要处理大量图片6.2 实际应用建议在实际业务中部署这个模型时我建议从小规模开始先用少量图片测试调整好参数后再大规模应用。添加容错机制网络请求、图片读取、模型推理都可能出错要有相应的错误处理和重试机制。考虑异步处理如果处理量大可以考虑使用消息队列如RabbitMQ、Redis实现异步处理。定期更新模型关注ModelScope上的模型更新及时升级到新版本。监控与告警设置关键指标如响应时间、成功率的监控和告警。6.3 下一步学习方向如果你对这个模型感兴趣可以进一步探索模型微调使用自己的卡证数据对模型进行微调提升在特定场景下的准确率。集成到业务系统将模型服务封装成API方便其他系统调用。性能优化探索模型量化、TensorRT加速等技术进一步提升推理速度。多模型组合结合OCR模型实现从检测到识别的完整流程。卡证检测矫正是一个非常有实用价值的技术能够在金融、政务、教育等多个领域提升效率。希望本文能帮助你顺利部署和应用这个模型。如果在实践中遇到其他问题欢迎随时交流讨论。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
