1. 项目概述：C#与YOLOv12的推理实践

在工业检测、安防监控和自动驾驶等领域，实时目标检测一直是计算机视觉的核心需求。YOLO系列作为单阶段检测的标杆算法，其最新迭代版本YOLOv12在精度和速度上都有显著提升。而C#作为工业领域广泛使用的语言，与YOLO的结合能快速落地到Windows平台的生产环境中。

这个项目完整展示了从零开始实现C#调用YOLOv12模型进行推理的全过程。与Python方案不同，我们采用ONNX Runtime作为推理引擎，结合OpenCvSharp4处理图像，最终输出检测结果。这种技术栈特别适合需要部署到传统Windows服务器或工业PC的场景，避免了Python环境的管理成本。

关键优势：ONNX Runtime支持跨平台部署，后续可无缝迁移到Linux环境；C#方案编译为原生代码，执行效率高于Python解释执行

2. 环境准备与工具链搭建

2.1 基础环境配置

推荐使用Visual Studio 2022社区版作为开发环境，创建.NET 6控制台应用项目。需安装以下NuGet包：

Install-Package Microsoft.ML.OnnxRuntime -Version 1.16.0 Install-Package OpenCvSharp4 -Version 4.8.0 Install-Package OpenCvSharp4.runtime.win -Version 4.8.0

对于GPU加速场景，需额外安装Microsoft.ML.OnnxRuntime.Gpu包，并确保系统已安装CUDA 11.x和cuDNN 8.x。CPU版本则无需特殊配置。

2.2 YOLOv12模型准备

从官方仓库获取预训练模型（如yolov12n.onnx），建议使用Netron工具可视化模型结构。重点关注：

1. 输入节点名称和尺寸（通常为1x3x640x640）
2. 输出节点名称和维度（如1x84x8400）
3. 是否包含后处理节点（新版YOLO常输出原始预测张量）

// 模型加载示例 var session = new InferenceSession("yolov12n.onnx"); var inputMeta = session.InputMetadata; var outputMeta = session.OutputMetadata;

3. 核心推理流程实现

3.1 图像预处理标准化

YOLO系列要求输入图像进行归一化和LetterBox处理。OpenCvSharp4的实现要点：

Mat Preprocess(Mat src, int netSize, out float ratio, out Point2f pad) { // 计算缩放比例 ratio = Math.Min(netSize / (float)src.Width, netSize / (float)src.Height); var newSize = new Size((int)(src.Width * ratio), (int)(src.Height * ratio)); // LetterBox处理 var resized = new Mat(); Cv2.Resize(src, resized, newSize); pad.X = (netSize - newSize.Width) / 2f; pad.Y = (netSize - newSize.Height) / 2f; var dst = new Mat(netSize, netSize, MatType.CV_8UC3, new Scalar(114, 114, 114)); resized.CopyTo(new Mat(dst, new Rect((int)pad.X, (int)pad.Y, resized.Width, resized.Height))); // 归一化并转为NCHW格式 dst.ConvertTo(dst, MatType.CV_32FC3, 1.0 / 255); var channels = Cv2.Split(dst); return Cv2.Merge(new[] { channels[2], channels[1], channels[0] }); // BGR转RGB }

3.2 ONNX Runtime推理执行

创建输入Tensor并执行推理：

float[] RunInference(Mat input) { // 转为连续内存数组 var inputData = new float[1 * 3 * 640 * 640]; Marshal.Copy(input.Data, inputData, 0, inputData.Length); // 创建输入Tensor var inputTensor = OrtValue.CreateTensorValueFromMemory( inputData, new long[] { 1, 3, 640, 640 }); // 准备输入输出容器 var inputs = new Dictionary<string, OrtValue> { { "images", inputTensor } }; var outputs = new List<string> { "output0" }; // 执行推理 using var results = session.Run(null, inputs, outputs); return results[0].GetTensorDataAsSpan<float>().ToArray(); }

3.3 后处理与NMS实现

YOLOv12输出需要经过置信度过滤和NMS处理：

List<Detection> Postprocess(float[] output, float confThres = 0.5f, float iouThres = 0.45f) { var detections = new List<Detection>(); int numClasses = output.Length / 8400 - 4; // 根据模型输出调整 for (int i = 0; i < 8400; i++) { float maxConf = 0; int classId = -1; // 找出最大置信度类别 for (int c = 0; c < numClasses; c++) { float conf = output[8400 * (4 + c) + i]; if (conf > maxConf) { maxConf = conf; classId = c; } } if (maxConf > confThres) { // 解析边界框坐标 float cx = output[i]; float cy = output[8400 + i]; float w = output[8400 * 2 + i]; float h = output[8400 * 3 + i]; detections.Add(new Detection { Box = new RectF(cx - w/2, cy - h/2, w, h), Confidence = maxConf, ClassId = classId }); } } // 执行NMS return ApplyNMS(detections, iouThres); }

4. 性能优化关键技巧

4.1 内存与计算优化

1. 固定内存池：重用输入输出缓冲区

   private static float[] _inputBuffer = new float[1 * 3 * 640 * 640]; private static float[] _outputBuffer; void WarmUp() { Array.Fill(_inputBuffer, 0.5f); RunInference(_inputBuffer); // 首次运行初始化内存 _outputBuffer = new float[session.OutputMetadata.First().Value.Dimensions[1]]; }

2. SessionOptions调优：

   var so = new SessionOptions { GraphOptimizationLevel = GraphOptimizationLevel.ORT_ENABLE_ALL, ExecutionMode = ExecutionMode.ORT_PARALLEL }; if (useGPU) so.AppendExecutionProvider_CUDA();

4.2 多线程处理方案

对于视频流场景，建议采用生产者-消费者模式：

BlockingCollection<Mat> frameQueue = new BlockingCollection<Mat>(10); // 生产者线程 Task.Run(() => { using var capture = new VideoCapture(0); while (true) { var frame = new Mat(); capture.Read(frame); frameQueue.Add(frame.Clone()); } }); // 消费者线程 Task.Run(() => { foreach (var frame in frameQueue.GetConsumingEnumerable()) { var detections = ProcessFrame(frame); frame.Dispose(); } });

5. 常见问题与解决方案

5.1 典型错误排查表

5.2 精度调优经验

1. 置信度阈值选择：

   • 高召回场景：confThres=0.25
   • 高精度场景：confThres=0.5
   • 可通过PR曲线确定最佳阈值

2. 自定义类别处理：

   // 过滤特定类别 detections = detections.Where(d => allowedClasses.Contains(d.ClassId)).ToList();

3. 多模型集成技巧：

   // 并行执行多个模型 var tasks = new[] { "yolov12n.onnx", "yolov12s.onnx" } .Select(model => Task.Run(() => RunModel(model, input))); var results = await Task.WhenAll(tasks);

6. 扩展应用场景

6.1 工业质检案例

在PCB缺陷检测中，可部署如下处理流程：

1. 使用YOLOv12定位元器件
2. 对每个ROI区域进行二次检测
3. 将结果写入SQL Server数据库

// 数据库记录示例 using var conn = new SqlConnection(connectionString); conn.Open(); var cmd = new SqlCommand( "INSERT INTO Defects (ItemId, Class, Confidence, Position) VALUES (@id, @cls, @conf, @pos)", conn); cmd.Parameters.AddWithValue("@id", Guid.NewGuid()); // ...其他参数

6.2 跨平台部署方案

通过ONNX Runtime的跨平台特性，可轻松迁移到Linux环境：

1. 在Ubuntu上安装libonnxruntime
2. 使用.NET Core发布独立应用
3. 通过Docker容器化部署

FROM mcr.microsoft.com/dotnet/runtime:6.0 COPY bin/Release/net6.0/publish/ /app WORKDIR /app ENTRYPOINT ["dotnet", "YoloInference.dll"]

实际测试中，这套方案在Jetson Xavier NX上能达到45FPS的推理速度，完全满足实时性要求。对于需要更高性能的场景，可以考虑将预处理和后处理移植到C++编写，通过P/Invoke调用。