Significado de la resolución y precisión de los instrumentos de visualización digital
Al seleccionar una pinza amperimétrica FLUKE, una de sus especificaciones técnicas dice: Pantalla digital: resolución de 6000 cuentas. ¿Qué significa "6000 cuentas"? Además, ¿qué significa la especificación de precisión "1,6 % ±6 cuentas {40 A}"?
Para los instrumentos con pantalla digital, la magnitud eléctrica correspondiente a un dígito menos significativo del rango mínimo se define como capacidad de resolución. Por ejemplo, se dice que cierto multímetro digital tiene una capacidad de resolución máxima de 10 μV, lo que refleja la sensibilidad del instrumento. Cuando la capacidad de resolución se expresa como porcentaje, es decir, la relación entre el dígito visualizable más pequeño y el dígito visualizable máximo, se denomina resolución.
El término "6000 cuentas" se refiere a la sensibilidad de resolución de pantalla del medidor, es decir, su capacidad para identificar pequeñas señales eléctricas. En pocas palabras, supongamos que la señal de entrada oscila entre 0 y 1 V. El instrumento muestra el valor digital convertido por el convertidor A/D. En otras palabras, el rango de 0‑1 V se divide en 6000 partes (cuentas), donde 0 V corresponde a 0 y 1 V corresponde a 6000. Por lo tanto, una resolución más alta produce resultados más precisos al medir variaciones menores de la señal. Tomemos como ejemplo las pinzas amperimétricas 317 / 319. Tienen cuatro tubos de visualización digital. Dado que el dígito más significativo puede mostrar 5 o 6 y el dígito mínimo que se puede mostrar es 1, estos son medidores de 3-3/4 dígitos con una lectura máxima mostrada de 5999 (nominalmente 6000). Su resolución es 1/5999, aproximadamente un 0,016 %.
"1,6 % ±6 cuentas" indica la precisión del instrumento. Tenga en cuenta que existe una separación entre "1,6 %" y "±6 recuentos", lo que significa que se aplican dos formatos de expresión de precisión. Para el rango de 40 A: un término es 1,6 % y el otro término es ±6 cuentas.
