Kvantimislabor

Kvantimine on protsess, kus pidevad või kõrge täpsusega väärtused ümardatakse lõplikku koodiraamatusse. Viga on ühe näidise kohta tavaliselt väike, kuid sujuvad üleminekud paljastavad selle kontuuriribadena, sest naaberpikslid ümarduvad samadele vähestele väljundväärtustele. Dither lisab enne ümardamist tahtlikult müra: see suurendab kohalikku müra, kuid lõhub ühtlased ribad, mis inimsilmale sageli parem välja näeb ja koodekites erinevalt pakitakse. • Allika ja väljundi üleminek: ülemine riba näitab matemaatiliselt sujuvat sisendüleminekut. Alumine riba näitab kvanditud väljundit, ümardatuna valitud tasemetele. Madala bitisügavuse juures tekitab see ümardamine nähtavaid kontuuriribasid. • Kvantimisvea graafik: see kuvab erinevuse (väljund − sisend) igas üleminekupositsioonis. Kollane joon on viga ja roheline joon tähistab nullviga. Suured perioodilised vealained viitavad bändingule, samas kui ditheri lisamine muudab selle vea juhuslikuks kõrgsageduslikuks müraks.

Üleminek on päris maailmas pidev, kuid arvuti peab valima kindlast väärtuste loendist. Bitisügavus määrab selle loendi pikkuse: iga lisabitt kahekordistab väärtuste arvu, seega annab 8 bitti 2⁸ = 256 tooni ja 10 bitti 1024. Vähem astmeid tähendab jämedamat ümardamist — seepärast laguneb 6 biti (64 tooni) korral sujuv taevas nähtavateks ribadeks.

SNR-i näidus peidab endas puhta reegli: ühtlase kvantimise korral parandab iga lisabitt signaali-müra suhet umbes 6.02 dB võrra, valemi SNR ≈ 6.02·N + 1.76 dB järgi täisskaala siinuse puhul. Sama valem kehtib nii heli muundurite kui ka pildikodeerijate kohta, nii et 16-bitisel helirajal ja 16-bitisel pildil on sama teoreetiline kvantimismüra tase. Üks bitt juurde, 6 dB võitu — sõltumata meediumist.