推理篇第2节:onnx-graphsurgeon——修改计算图

推理篇第2节:onnx-graphsurgeon——修改计算图 当模型里有个算子在TensorRT里"水土不服",你不会重新训练——你会拿起graphsurgeon这把手术刀,精准切除、移植、缝合前言上一节我们学会了把模型从PyTorch导出到ONNX。但导出只是第一步——真实世界的模型往往包含一些推理引擎"不认识"或"不擅长"的算子。你可能需要:用一个TensorRT支持的算子替换不支持的算子在特定位置插入Cast、Reshape等辅助节点裁剪掉模型中不需要的部分(如训练专用的loss层)修改图拓扑(如跳过一个不再需要的后处理分支)onnx-graphsurgeon正是为这些场景设计的——它让你以"外科手术"的精度操作ONNX计算图,而不需要写protobuf操作代码。一、graphsurgeon核心概念1.1 Graph, Node, Tensor 三元组importonnx_graphsurgeonasgsimportonnx graph