Digitaalisen yleismittarin resoluutio (resoluutio).
Jännitearvoa, joka vastaa digitaalisen yleismittarin viimeistä sanaa alimmalla jännitealueella, kutsutaan resoluutioksi, joka heijastaa instrumentin herkkyyttä. Digitaalisten digitaalisten instrumenttien resoluutio kasvaa näytössä olevien numeroiden määrän myötä. Suurin resoluutioindeksi, joka voidaan saavuttaa digitaalisilla yleismittareilla eri numeroilla, on erilainen, esimerkiksi: 100 μV 3 1/2-numeroiselle yleismittarille.
Digitaalisen yleismittarin resoluutioindeksi voidaan näyttää myös resoluutiolla. Resoluutio tarkoittaa prosenttiosuutta pienimmästä numerosta (paitsi nolla) suurimpaan numeroon, jonka mittari voi näyttää. Esimerkiksi yleinen {{0}}/2-numeroinen digitaalinen yleismittari voi näyttää vähimmäisluvun 1 ja enimmäisluvun 1999, joten resoluutio on 1/1999≈0,05 prosenttia .
On syytä huomauttaa, että resoluutio ja tarkkuus kuuluvat kahteen eri käsitteeseen. Edellinen luonnehtii instrumentin "herkkyyttä" eli kykyä "tunnistaa" pieniä jännitteitä; jälkimmäinen kuvastaa mittauksen "tarkkuutta" eli sitä, missä määrin mittaustulos on yhdenmukainen todellisen arvon kanssa. Näiden kahden välillä ei ole välttämätöntä yhteyttä, joten niitä ei voi sekoittaa, eikä resoluutiota (tai resoluutiota) saa sekoittaa samanlaiseksi tarkkuuteen, joka riippuu instrumentin sisäisestä A/D-muuntimesta, laitteen kokonaisvirheestä. funktiomuunnin ja kvantisointivirhe. Mittauksen kannalta resoluutio on "virtuaalinen" indeksi (jolla ei ole mitään tekemistä mittausvirheen kanssa), ja tarkkuus on "todellinen" indeksi (se määrittää mittausvirheen koon). Siksi ei ole mahdollista mielivaltaisesti suurentaa näytön numeroita laitteen resoluution parantamiseksi.
