Digitaalisen yleismittarin resoluutio on seuraava
Resoluutio viittaa mittarin mittaustulosten laatuun. Ymmärtämällä taulukon resoluutio voit selvittää, näetkö pieniä muutoksia mitatussa signaalissa. Esimerkiksi, jos digitaalisen monimittarin resoluutio 4V -alueella on 1MV, niin mitattaessa 1 V: n signaalia näet pienen muutoksen 1MV (1/1000 volttia).
Jos haluat mitata alle 1/4 tuumaa (tai 1 millimetriä) pituuksia, et todellakaan käytä viivainta, jolla on pienet yksiköt tuumina (tai senttimetreinä). Jos lämpötila on 98,6 astetta F, mittaus lämpömittarilla, joka on merkitty vain kokonaislukuilla, on hyödytöntä. Tarvitset lämpömittarin, jonka resoluutio on 0. 1 aste F.
Numeroiden ja merkkien lukumäärää käytetään kuvaamaan taulukon resoluutiota. Digitaaliset monimittarit luokitellaan niiden näyttämien numeroiden ja sanojen lukumäärän perusteella.
Kolmen ja puolinumeroinen taulukko, joka voi näyttää kolme kokonaista numeroa välillä 0 9: een ja puolitoista numeroa (näyttää vain 1 tai ei näytä). A 3. 5- bitti digitaalinen taulukko voi saavuttaa vuoden 1999 sanojen resoluution. A 4- bitin digitaalinen taulukko voi saavuttaa vuoden 1999 sanojen resoluution.
Numeerisen taulukon resoluution kuvaaminen sanoja käyttämällä on parempi kuin bitin käyttäminen, ja 3.
32 0 0 Word -digitaalinen taulukko tarjoaa paremman resoluution tietyille mittauksille. Esimerkiksi vuoden 1999 sanamittari ei voi näyttää 0. 1V mittaamalla yli 200 V: n jännitteet. 3200 -digitaalinen mittari voi silti näyttää 0,1 V: n 320 voltin jännitettä. Kun mitattu jännite on korkeampi kuin 320 V ja resoluutio 0,1 V on saavutettava, vaaditaan kalliimpi 20000 -digitaalinen mittari.
