DC精度指标是一种用于描述测量设备最坏情况与理想线性响应的区别。它包含偏移误差和增益误差。
在下图中,黑色斜线代表理想的传输函数,红色斜线代表假想的数据采集前端的测量响应。
为了表达黑色斜线和红色斜线的不同,起初我们设定计算每一条曲线的公式形式为y = mx + c. 黑色斜线的斜率为(1.0 V/1.0 V). 因为黑色斜线穿过坐标原点,所以偏移应该为0.因此公式变为:
yIDEAL = 1.0x + 0
红色斜线的斜率为(1.0 V/(1.35 V – 0.1 V))= 0.8 V/V,偏移为-0.08 V.因此它的公式可以表示为:
yADC = 0.8x – 0.08
现在我们拥有足够的信息计算增益和偏移误差。偏移误差为测量偏移(0.8 V)和理想偏移(0V)之差:
OE = –0.08 V–0 V = –0.08 V
增益误差为测量斜率(0.8 V/V)和理想斜率(1.0 V/V)相差的百分比:
GE= (0.8 – 1.0) / (1.0) = –0.2 或 –20%
我们所生产的每一批示波器拥有一些列不同的增益和偏移误差但是我们确保这些偏差落在一个指定的范围内。当测试完大量的示波器如上述示例,我们很可能发现它们中的大部分拥有偏移误差在-1 V和+1 V范围内,且增益误差落在-10% 到 +10%之间。所以我们会发布如下指标:
DC 精度: ±1 V ± 满刻度的10%
Pico示波器的偏移误差指标,所指定的范围在±200 µV 到 ±500 µV之间。增益误差指标位于满刻度的±0.25% (16-bit示波器)到 ±3%(8位示波器)。有些型号没有分开的增益和偏移误差指标但会给出一个包含增益和偏移误差的百分数值。