ICameraCalibrationService.cs 9.1 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157
  1. using MathNet.Numerics.LinearAlgebra;
  2. using OpenCvSharp;
  3. using System;
  4. using System.Drawing;
  5. using System.Threading;
  6. using System.Threading.Tasks;
  7. using TeamAAS_VP.Models;
  8. using TeamAAS_VP.Models.Calibration;
  9. using TeamAAS_VP.Models.Robot;
  10. namespace TeamAAS_VP.Interfaces
  11. {
  12. /// <summary>
  13. /// 提供相机标定与像素坐标系/机器人坐标系变换的服务接口。
  14. /// 注意:此接口只定义方法签名与文档,具体算法与实现由实现类提供。
  15. /// </summary>
  16. public interface ICameraCalibrationService : IDisposable
  17. {
  18. /// <summary>
  19. /// 触发相机拍照并进行图像处理的回调函数
  20. /// 在标定过程中需要获取图像特征点时调用此回调
  21. /// Tuple 字段含义:
  22. /// Item1 - IsSuccess: 拍照及图像处理是否成功;
  23. /// Item2 - X: 图像处理后得到的机器人目标 X(mm);
  24. /// Item3 - Y: 图像处理后得到的机器人目标 Y(mm);
  25. /// Item4 - U: 图像处理后得到的机器人目标 U(工具朝向)。
  26. /// </summary>
  27. Func<Task<(bool IsSuccess, double X, double Y, double U,int ImageWidth,int ImageHeight)>> CaptureAndProcessCallback { get; set; }
  28. /// <summary>
  29. /// 固定向下相机校准工具坐标。
  30. /// 该方法用于在相机固定、朝下安装且工具不随 J4 移动的情况下标定相机与机器人工具坐标系之间的关系。
  31. /// </summary>
  32. /// <param name="calibrationInfo">包含标定时所需的相机参数、图像处理配置与标定点信息的对象。</param>
  33. /// <param name="robot">实现了 <see cref="IRobot"/> 的机器人抽象,用于获取/移动机器人位姿。</param>
  34. /// <param name="cancellationToken">用于取消操作的标记。</param>
  35. /// <returns>
  36. /// 一个包含以下字段的元组:
  37. /// IsSuccess - 标定是否成功;
  38. /// Matrix<double> - 图像与像素坐标系之间的旋转(或仿射)矩阵(行列顺序与具体实现约定);
  39. /// ToolX - 标定得到的工具坐标系在机器人基坐标系下的 X(单位与机器人一致);
  40. /// ToolY - 标定得到的工具坐标系在机器人基坐标系下的 Y(单位与机器人一致);
  41. /// PixelScaleX - 像素到物理距离在 X 方向的缩放因子(如 mm/px);
  42. /// PixelScaleY - 像素到物理距离在 Y 方向的缩放因子(如 mm/px)。
  43. /// </returns>
  44. Task<(bool IsSuccess, Matrix<double> RotationMatrix, double ToolX, double ToolY, double PixelScaleX, double PixelScaleY)> CalibrateFixedDownCameraTool(CalibrationInfo calibrationInfo, IRobot robot,CancellationToken cancellationToken);
  45. /// <summary>
  46. /// J4 移动的向下相机校准工具坐标。
  47. /// 用于相机或工具随机器人第 4 轴(J4)运动时的标定,需考虑 J4 引入的偏转影响。
  48. /// </summary>
  49. /// <param name="calibrationInfo">标定所需配置信息。</param>
  50. /// <param name="robot">机器人接口。</param>
  51. /// <param name="cancellationToken">用于取消操作的标记。</param>
  52. /// <returns>同 <see cref="CalibrateFixedDownCameraTool"/> 的返回约定。</returns>
  53. Task<(bool IsSuccess, Matrix<double> RotationMatrix, double ToolX, double ToolY, double PixelScaleX, double PixelScaleY)> CalibrateJ4MovingDownCameraTool(CalibrationInfo calibrationInfo, IRobot robot, CancellationToken cancellationToken);
  54. /// <summary>
  55. /// 固定向上相机校准工具坐标。
  56. /// 该方法用于相机固定、朝上安装的情况,标定过程与向下相机类似但需要考虑图像翻转/镜像等差异。
  57. /// </summary>
  58. /// <param name="calibrationInfo">标定配置信息。</param>
  59. /// <param name="robot">机器人接口。</param>
  60. /// <param name="cancellationToken">用于取消操作的标记。</param>
  61. /// <returns>同 <see cref="CalibrateFixedDownCameraTool"/> 的返回约定。</returns>
  62. Task<(bool IsSuccess, Matrix<double> RotationMatrix, double ToolX, double ToolY, double PixelScaleX, double PixelScaleY)> CalibrateFixedUpCameraTool(CalibrationInfo calibrationInfo, IRobot robot, CancellationToken cancellationToken);
  63. /// <summary>
  64. /// 通过未标定的相机校准工具坐标。
  65. /// 当相机内参未知或未可靠标定时,通过已知机器人位姿与图像特征的对应关系反推工具坐标与像素尺度。
  66. /// </summary>
  67. /// <param name="calibrationInfo">标定配置信息(可能包含初始猜测或参考点)。</param>
  68. /// <param name="robot">机器人接口。</param>
  69. /// <param name="cancellationToken">用于取消操作的标记。</param>
  70. /// <returns>同 <see cref="CalibrateFixedDownCameraTool"/> 的返回约定。</returns>
  71. Task<(bool IsSuccess, Matrix<double> RotationMatrix, double ToolX, double ToolY, double PixelScaleX, double PixelScaleY)> CalibrateUncalibratedCameraTool(CalibrationInfo calibrationInfo, IRobot robot, CancellationToken cancellationToken);
  72. /// <summary>
  73. /// 自动识别机器人与相机图像坐标系的旋转矩阵。
  74. /// 使用若干已知的机器人位姿与对应图像坐标点,估计二者之间的旋转变换与像素尺度。
  75. /// </summary>
  76. /// <param name="calibrationInfo">包含用于识别的点集与图像处理配置。</param>
  77. /// <param name="robot">机器人接口,用于获取对应位姿或移动机器人到指定位置以采集数据。</param>
  78. /// <param name="cancellationToken">用于取消操作的标记。</param>
  79. /// <returns>
  80. /// 元组字段:
  81. /// IsSuccess - 是否成功识别;
  82. /// Matrix<double> - 旋转(或仿射)矩阵;
  83. /// PixelScaleX - X 方向像素尺度(如 mm/px);
  84. /// PixelScaleY - Y 方向像素尺度(如 mm/px)。
  85. /// </returns>
  86. Task<(bool IsSuccess, Matrix<double> RotationMatrix, double PixelScaleX, double PixelScaleY)> AutoIdentifyRobotCameraRotationMatrix(CalibrationInfo calibrationInfo, IRobot robot, CancellationToken cancellationToken);
  87. /// <summary>
  88. /// 根据图像上的三个点计算图像坐标系的旋转矩阵。
  89. /// 通常通过已知三点在像素坐标系中的位置计算出局部旋转/仿射变换,用于后续坐标换算。
  90. /// </summary>
  91. /// <param name="P0">图像中的点 0(像素坐标)。</param>
  92. /// <param name="P1">图像中的点 1(像素坐标)。</param>
  93. /// <param name="P2">图像中的点 2(像素坐标)。</param>
  94. /// <returns>表示图像旋转或仿射变换的 3x3 或 2x2 矩阵(具体尺寸由实现决定)。</returns>
  95. Matrix<double> CalculateImageRotationMatrix(PointF P0, PointF P1, PointF P2);
  96. /// <summary>
  97. /// 自动移动机器人至图像中心点位置。
  98. /// 典型用例为将相机视野中心对应的工作点转换为机器人坐标并移动机器人到该点以便校准或抓取。
  99. /// </summary>
  100. /// <param name="robot">机器人接口,用于执行移动命令并返回当前位置。</param>
  101. /// <param name="matrix">图像坐标系到机器人坐标系的转换矩阵(旋转/仿射)。</param>
  102. /// <param name="PixelScaleX">像素到物理距离在 X 方向的缩放因子(如 mm/px)。</param>
  103. /// <param name="PixelScaleY">像素到物理距离在 Y 方向的缩放因子(如 mm/px)。</param>
  104. /// <param name="cancellationToken">用于取消操作的标记。</param>
  105. /// <returns>
  106. /// 元组字段:
  107. /// IsSuccess - 是否成功移动到图像中心;
  108. /// X - 移动后机器人在基坐标系下的 X;
  109. /// Y - 移动后机器人在基坐标系下的 Y;
  110. /// U - 移动后机器人的朝向(工具角度)。
  111. /// </returns>
  112. Task<(bool IsSuccess, double X, double Y, double U)> AutoMoveRobotToImageCenter(IRobot robot, Matrix<double> matrix, double PixelScaleX, double PixelScaleY, CancellationToken cancellationToken);
  113. /// <summary>
  114. /// 自动九点标定。
  115. /// 使用 9 个采样点进行仿射/透视变换求解,以提高标定精度并生成验证用的九点数据结构。
  116. /// </summary>
  117. /// <param name="calibrationInfo">九点标定的配置信息(点列、采集顺序、图像处理参数等)。</param>
  118. /// <param name="robot">机器人接口。</param>
  119. /// <param name="cancellationToken">用于取消操作的标记。</param>
  120. /// <returns>
  121. /// 元组字段:
  122. /// IsSuccess - 标定是否成功;
  123. /// AffineTransformationMaterial - 求解得到的仿射变换矩阵;
  124. /// NinePoint - 九点标定结果封装(像素点与对应的机器人位姿);
  125. /// Result - 详细的标定结果与统计信息(误差、残差等)。
  126. /// </returns>
  127. Task<(bool IsSuccess, Matrix<double> AffineTransformationMaterial, RobotPixelPoint[] NinePoint, CalibrationResult Result)> AutoNinePointCalibration(CalibrationInfo calibrationInfo, IRobot robot, CancellationToken cancellationToken);
  128. /// <summary>
  129. /// 执行校准验证。
  130. /// 使用当前标定参数在一组验证点上计算误差并返回测试结果,用于评估标定质量。
  131. /// </summary>
  132. /// <param name="calibrationInfo">用于验证的点集与验收标准配置。</param>
  133. /// <param name="robot">机器人接口,用于在验证过程中获取或移动到参考位姿。</param>
  134. /// <param name="cancellationToken">用于取消操作的标记。</param>
  135. /// <returns>元组字段:IsSuccess 表示验证是否通过;Result 包含详细的验证统计与误差分析。</returns>
  136. Task<(bool IsSuccess, CalibrationTestResult Result)> ExecuteCalibrationValidation(CalibrationInfo calibrationInfo, IRobot robot, CancellationToken cancellationToken);
  137. /// <summary>
  138. /// 独立模组相机计算独立模组步进坐标系与绝对坐标系的刚体变换矩阵(旋转矩阵、平移矩阵)
  139. /// </summary>
  140. /// <param name="calibrationInfo"></param>
  141. /// <param name="robot"></param>
  142. /// <param name="cancellationToken"></param>
  143. /// <returns></returns>
  144. Task<(bool IsSuccess, double[,] RotationMatrix, double[,] TranslationMatrix)> CalculateIndependentCameraRigidTransformationMatrix(CalibrationInfo calibrationInfo, IRobot robot, CancellationToken cancellationToken);
  145. }
  146. }