Laboratoire de quantification

La quantification consiste à arrondir des valeurs continues ou de haute précision vers un ensemble fini de valeurs. L'erreur est généralement faible par échantillon, mais les dégradés doux la révèlent sous forme de bandes de contour, car les pixels voisins s'arrondissent vers les mêmes quelques valeurs de sortie. Le tramage ajoute délibérément du bruit avant l'arrondi : il augmente le bruit local, mais brise les bandes cohérentes, ce qui est souvent perçu comme mieux par la vision humaine et se comprime différemment selon les codecs. • Dégradé source vs sortie : la bande supérieure montre le dégradé d'entrée mathématiquement lisse. La bande inférieure montre la sortie quantifiée, arrondie aux niveaux sélectionnés. À faible profondeur de bits, cet arrondi crée des bandes de contour visibles. • Graphique de l'erreur de quantification : il trace la différence (sortie − entrée) à chaque position du dégradé. La ligne jaune est l'erreur, et la ligne verte représente l'erreur nulle. De grandes ondes d'erreur périodiques indiquent du banding, tandis que l'ajout de tramage transforme cette erreur en bruit haute fréquence aléatoire.

Un dégradé réel est continu, mais un ordinateur doit choisir dans une liste fixe de valeurs. La profondeur de bits fixe la longueur de cette liste : chaque bit supplémentaire double le nombre, donc 8 bits donnent 2⁸ = 256 nuances et 10 bits en donnent 1024. Moins de paliers signifie un arrondi plus grossier ; c'est pourquoi, en descendant à 6 bits (64 nuances), un ciel lisse se brise en bandes visibles.

Une règle nette se cache dans la valeur du SNR : en quantification uniforme, chaque bit supplémentaire améliore le rapport signal sur bruit d'environ 6.02 dB, selon SNR ≈ 6.02·N + 1.76 dB pour une sinusoïde pleine échelle. La même formule régit les convertisseurs audio et les encodeurs d'image, si bien qu'une piste audio 16 bits et une image 16 bits partagent le même plancher de bruit de quantification théorique. Un bit de plus, 6 dB de gagnés — quel que soit le support.