无论使用何种仪器来测量参数，都有两个关键因素：准确性和可重复性。一个基本的经验法则是，测量仪器应该至少比它要测量的过程规范好十倍。换句话说，它的可重复性和准确性至少应该是过程的十倍。

所有的测量仪器都有一个刻度，由沿刻度的许多“刻度”或标记组成。在使用机器视觉的情况下，“刻度”之间的距离是像素（子像素）的大小或像素（子像素）之间的距离。在机器视觉中，“刻度”对应于分辨率，但不一定对应于机器视觉系统的灵敏度——系统能够检测到的测量值的最小变化。在机器视觉中，这对应于像素（子像素）增量或像素（子像素）分辨率。

在使用机器视觉测量零件时，通常面临着一个问题：零件特征的边缘通常不会精确落在一个像素或两个像素之间。边缘的影响通常会在几个相邻像素上体现。人们无法区分落在同一像素上的两条边。通常，编码的灰度值表示像素的强度平均值。

1、对比度 - 以边缘为特征的线的累积强度变化

2、宽度（模糊度） - 发生大部分强度变化的剖面上的间隔大小

3、陡度 - 此区间内的表面坡度

4、方向 - 垂直于边缘像素的向量角度

由于对象的边缘通常覆盖具有特定灰度轮廓的几个连续像素（将灰度值视为空间数据点的第三维属性），因此可以使用任意数量的数学或统计方案来基本上推断边缘点的位置，或将边缘的位置建立在有效对象距离的某个增量内的通过对象空间中的像素。例如，将灰度轮廓视为曲线，可以计算曲线的二阶导数——预期发生变化的特定点——并将其定义为边缘像素。

不同的机器视觉算法利用边缘的各种属性来计算像素（子像素）内边缘的位置。值得注意的是，不同的算法在子像素增量的大小方面确实会产生不同的结果。

精度的准确性和可重复性

精度由校准程序决定。在机器视觉中，与大多数数字系统一样，“校准”旋钮可以一次更改一个“刻度”（一个像素或亚像素距离）。每个“刻度”代表系统输出中的离散值变化，离散值是物理尺寸增量。

例如，公称尺寸为 0.1，公差为 0.005。（总容差范围为0.01）。因此，校准旋钮的每个“刻度”（像素或子像素距离）应具有0.1的0.01或0.001的值。因此，每个步长的一半为 0.0005。换句话说，机器视觉系统的精度应等于或优于0.0005。

由于重复性的经验法则与精度相同，因此系统对重复性的要求是相同的，即重复性应等于“刻度”的尺寸。

虽然精度在给定的应用中可能不是那么重要，因为它可以通过校准得出，但可重复性更为重要，因为它不能通过校准或其他方式进行校正。据观察，上述分析被许多人认为是保守的。因此，有些人建议将重复性从10/1放宽到5/1。

在某些情况下，使用的经验法则是精度和可重复性的总和应小于公差带的三分之一。实际上，无论遵守什么“规则”，测量仪器的准确度或重复性不应等于被测量尺寸的公差，事实上，必须小得多！

光虎光学认为，具有亚像素能力的机器视觉通常可用于满足此类“规则”的许多计量应用。在某些情况下，无论系统分辨率或理论像素大小（视场除以水平/垂直方向的像素数）如何，性能都接近工业环境中机器视觉的实际极限。

在要测量的零件尺寸为0.1的上述示例应用中，鉴于相机/机器视觉系统的全视场应用于该尺寸，理论子像素分辨率可能为0.1/1500（基于一个基于 500 x 500 区域相机的机器视觉系统和1/3像素分辨率的子像素能力）。