Digitaalisen yleismittarin resoluutio (resoluutio).
Jännitearvoa, joka vastaa digitaalisen yleismittarin viimeistä sanaa alimmalla jännitealueella, kutsutaan resoluutioksi, joka heijastaa instrumentin herkkyyttä. Digitaalisten digitaalisten instrumenttien resoluutio kasvaa näytössä olevien numeroiden määrän myötä. Suurin resoluutioindeksi, joka voidaan saavuttaa digitaalisilla yleismittareilla eri numeroilla, on erilainen, esimerkiksi: 100 μV 3 1/2-numeroiselle yleismittarille.
Digitaalisen yleismittarin resoluutioindeksi voidaan näyttää myös resoluutiolla. Resoluutio on pienimmän luvun (muu kuin nolla) prosenttiosuus, jonka mittari voi näyttää suurimmalla numerolla. Esimerkiksi yleinen {{0}}/2-numeroinen digitaalinen yleismittari voi näyttää vähimmäisluvun 1 ja enimmäisluvun 1999, joten resoluutio on 1/1999≈0,05 prosenttia .
On syytä huomauttaa, että resoluutio ja tarkkuus kuuluvat kahteen eri käsitteeseen. Edellinen luonnehtii instrumentin "herkkyyttä" eli kykyä "tunnistaa" pieniä jännitteitä; jälkimmäinen kuvastaa mittauksen "tarkkuutta" eli sitä, missä määrin mittaustulos on yhdenmukainen todellisen arvon kanssa. Näiden kahden välillä ei ole välttämätöntä yhteyttä, joten niitä ei voi sekoittaa, eikä resoluutiota (tai resoluutiota) saa sekoittaa samanlaiseksi tarkkuuteen, joka riippuu instrumentin sisäisestä A/D-muuntimesta, laitteen kokonaisvirheestä. funktiomuunnin ja kvantisointivirhe. Mittauksen kannalta resoluutio on "virtuaalinen" indikaattori (millä ei ole mitään tekemistä mittausvirheen kanssa), kun taas tarkkuus on "todellinen" indikaattori (se määrittää mittausvirheen koon). Siksi on mahdotonta lisätä mielivaltaisesti näytön numeroita laitteen resoluution parantamiseksi.
