计量学中的分辨率是衡量整体价值的关键指标。然而，很多时候我们会专注于从测量仪器中读出的计数或数字的数量，而没有理解这些数字是有效的输出值还是只是附加到信号的噪声。根据计量学词汇(VIM)，分辨率是被测量量的***小变化，导致相应指示发生可察觉的变化。

我们以硅压力传感器为例。从技术上讲，我们从硅传感器中获得的分辨率是无限的，并且仅受用于测量传感器的换能器的限制。然而，封装的压力传感器具有解释数据的电子设备就会限制了可以从传感器中获得的整体分辨率。Mensor的CPT9000 高级压力传感器具有集成的24位A/D转换器，具有16,777,216 步或计数，这是从选定的位数可能产生的***大离散值或除法数。那么这是否意味着您在读取传感器时可以获得超过 0.1PPM的分辨率，但其有效性取决于测量过程、仪器的整体不确定度以及仪器制造商设置的读数限制。

测量过程

考虑从Mensor压力传感器读取单个压力值。读数的分辨率代表一部分真实信号和一部分噪声。由于此噪声是随机的，无法对读取的单个值的真实性给予高度的置信度。

现在，如果在相同条件下多次重复此过程，我们就可以计算读数的平均值以明显接近真实值。假设噪声是随机的，计算平均值的标准偏差会显着提高读数真实性的整体置信水平。

因此，一个0~1psi全量程传感器，具有7位分辨率，其中您可以得出小至0.1x10-5psi的分辨率。单个读数的整体信噪比的置信度明显低于采用更大样本量的置信度。

仪器的不确定度

分辨率不确定度是导致测量不确定度的一个因素。分辨率也被认为是整体 A 类不确定度的一个因素，是通过在定义的条件下获得的统计分析来计算的。通常，不确定度的分辨率分量计算为整个A类不确定度和平方根方程的矩形分布。

这意味着对于具有7位分辨率的相同0~1psi传感器，存在与0.1x10-5psi ***小分辨率相关的不确定因素。尽管如此，其整体影响在很大程度上取决于这与A 类（偏差）和 B 类（参考不确定性、线性度、重复性、滞后等）不确定性中的其他因素的关系。

厂家设置的限制

为了应对分辨率对整体不确定度的影响，设备制造商限制了仪器（特别是带有数字显示指示的仪器）的读数，以减少显示噪声并使读数更容易。

在前面的示例中，传感器的总体规定不确定度为0.01%FS（在k=2时报告，置信水平为~95%）。任何灵敏度高于0.1x10-3psi 的读数都不具有相同的真实性置信水平。因此，在这种情况下，尽管分辨率能够达到 0.1x10-5psi，但尚不清楚记录的测量值的***后两位数字是否有任何意义。

通过读取为抵消噪声输出而部署的过滤器，可以在一定程度上缓解这个问题。但是，过滤器必须不使显示读数滞后于真实读数。

对于精密压力指示器CPG2500等压力仪器，报告的测量不确定度为0.008%或80ppm，分辨率定义为6-7位数字。这种情况主要是为了确保压力输出的信噪比高。 

所以总而言之，更高的分辨率并不一定意味着更真实的值，尤其是当读数本身的样本量有限时。话虽如此，重要的是要知道分辨率确实会影响仪器的整体不确定性。