johdatus digitaalisen yleismittarin resoluutioon
Digitaalisen yleismittarin viimeistä numeroa vastaavaa jännitearvoa alimmalla jännitealueella kutsutaan resoluutioksi, joka heijastaa mittarin herkkyyttä. Digitaalisten digitaalisten instrumenttien resoluutio kasvaa näytön numeroiden kasvaessa. Suurin resoluutioindikaattorit, jotka eri numeroilla varustetut digitaaliset yleismittarit voivat saavuttaa, ovat erilaisia.
Digitaalisen yleismittarin resoluutioindeksi voidaan myös näyttää resoluutiolla. Resoluutio on pienimmän luvun (muu kuin nolla) prosenttiosuus, jonka mittari voi näyttää suurimmalla numerolla.
On syytä huomauttaa, että resoluutio ja tarkkuus ovat kaksi eri käsitettä. Edellinen luonnehtii instrumentin "herkkyyttä" eli kykyä "tunnistaa" pieniä jännitteitä; jälkimmäinen kuvastaa mittauksen "tarkkuutta" eli mittaustuloksen ja todellisen arvon välistä johdonmukaisuuden astetta. Näiden kahden välillä ei ole välttämätöntä yhteyttä, joten niitä ei voida sekoittaa, eikä resoluutiota (tai resoluutiota) pidä sekoittaa samankaltaisuuteen. Tarkkuus riippuu laitteen sisäisen A/D-muuntimen ja toiminnallisen muuntimen kattavasta virheestä ja kvantisointivirheestä. Mittauksen näkökulmasta resoluutio on "virtuaalinen" indikaattori (millä ei ole mitään tekemistä mittausvirheen kanssa), ja tarkkuus on "todellinen" indikaattori (se määrittää mittausvirheen koon). Siksi ei ole mahdollista mielivaltaisesti lisätä näytön numeroiden määrää instrumentin resoluution parantamiseksi.
