El significado de resolución y precisión del instrumento de visualización digital.
Con respecto al significado de la resolución y precisión del instrumento de visualización digital, el valor de potencia correspondiente a la última palabra del instrumento de visualización digital en el rango mínimo se denomina resolución, 1,6 por ciento ± 6 palabras se refiere a la precisión del instrumento, paga atención al 1,6 por ciento Se separa de los ±6 caracteres, y se utilizan dos métodos para expresar la precisión del instrumento.
El significado de la resolución y precisión del instrumento de pantalla digital
Mire la selección de la pinza amperimétrica FLUKE, una de las especificaciones técnicas: frecuencia de visualización digital: resolución de 6000 palabras. No sé qué significan las 6000 palabras. También hay una precisión de escritura del 1,6 por ciento ± 6 caracteres {40A} y no sé qué significa".
El valor de potencia correspondiente a la última palabra del instrumento de visualización digital en el rango mínimo se denomina resolución. Como suele decirse, la resolución más alta de un multímetro digital es de 10 μV, etc.; refleja la sensibilidad del instrumento. Cuando la resolución se expresa como un porcentaje, es decir, la relación entre el número más pequeño y el número más grande que se puede mostrar, se denomina resolución.
Por ejemplo, la palabra 6000 se refiere a la sensibilidad de la resolución de la pantalla del reloj, es decir, la capacidad de identificar pequeñas cantidades de electricidad. En términos sencillos, se supone que la señal de entrada es 0-1V, y el medidor muestra la cantidad digital después de la conversión A/D, es decir, 0~1V se divide en 6000 partes ( palabras), 0V corresponde a 0 y 1V corresponde a 6000. Por lo tanto, cuanto mayor sea la resolución, más preciso será el resultado al medir pequeños cambios de señal. Tomando como ejemplo la pinza amperimétrica 317/319, muestra 4 tubos digitales. Dado que el dígito más grande puede mostrar 5 y 6, y el dígito más pequeño que se puede mostrar es 1, el medidor es un metro de tres y tres cuartos, entonces El valor máximo de visualización de la tabla es 5999 (el valor nominal es 6000 ), por lo que la resolución de la tabla es 1/5999, que es aproximadamente igual a 0,016 por ciento.
1,6 por ciento ± 6 caracteres se refiere a la precisión del instrumento, tenga en cuenta que 1,6 por ciento y ± 6 caracteres están separados, es decir, utiliza dos métodos para expresar la precisión del instrumento, a 40A: uno es 1,6 por ciento, el otro es de ±6 caracteres.
Hay tres formas de expresar la precisión del instrumento de visualización digital:
1. △=± por ciento FS
2. △=±( porcentaje FS más b)
3. △=±N
En la fórmula: △: error máximo permitido;
—nivel de precisión;
FS: rango del medidor, es decir, la diferencia entre los límites superior e inferior del rango de medición;
b—resolución del medidor;
N: el error máximo permisible expresado directamente por la cantidad física.
La clase de precisión del medidor del primer método de expresión está representada por .
El segundo método de expresión, cuando se puede omitir el error de cuantificación del instrumento en comparación con el error integral causado por otros factores (generalmente, porcentaje de FS mayor o igual a 10b), se puede simplificar como .
Los metros del tercer método de expresión no se expresan en clases de precisión.
pero:
