Mikä on digitaalisen yleismittarin resoluutio (resoluutio).
Digitaalisen yleismittarin viimeistä numeroa alimmalla jännitealueella vastaavaa jännitearvoa kutsutaan resoluutioksi, joka heijastaa mittarin herkkyyttä. Digitaalisten digitaalisten instrumenttien resoluutio kasvaa näytön numeroiden kasvaessa. Suurin resoluution ilmaisimet, jotka eri numeroilla varustetut digitaaliset yleismittarit voivat saavuttaa, ovat erilaisia, esimerkiksi: 100 μV 3 1/2-numeroisille yleismittarille.
Digitaalisen yleismittarin resoluutioindeksi voidaan myös näyttää resoluutiolla. Resoluutio on pienimmän luvun (muu kuin nolla) prosenttiosuus, jonka mittari voi näyttää suurimmalla numerolla. Esimerkiksi yleisellä {{0}}/2-numeroisella digitaalisella yleismittarilla näytettävä vähimmäisluku on 1, ja enimmäisluku voi olla 1999, joten resoluutio on 1/ 1999≈0,05 prosenttia.
On syytä huomauttaa, että resoluutio ja tarkkuus kuuluvat kahteen eri käsitteeseen. Edellinen luonnehtii instrumentin "herkkyyttä" eli kykyä "tunnistaa" pieniä jännitteitä; jälkimmäinen kuvastaa mittauksen "tarkkuutta" eli mittaustuloksen ja todellisen arvon välistä johdonmukaisuuden astetta. Näiden kahden välillä ei ole välttämätöntä yhteyttä, joten niitä ei voida sekoittaa, eikä resoluutiota (tai resoluutiota) pidä sekoittaa samankaltaisuuteen. Tarkkuus riippuu laitteen sisäisen A/D-muuntimen ja toiminnallisen muuntimen kattavasta virheestä ja kvantisointivirheestä. Mittauksen näkökulmasta resoluutio on "virtuaalinen" indikaattori (millä ei ole mitään tekemistä mittausvirheen kanssa), ja tarkkuus on "todellinen" indikaattori (se määrittää mittausvirheen koon). Siksi ei ole mahdollista mielivaltaisesti lisätä näytön numeroiden määrää instrumentin resoluution parantamiseksi.
