Laboratoire de quantification

comment la quantification transforme des tons doux en marches

Chargement de la simulation interactive...

la compression commence souvent par la douleur de la quantification 🖖

La quantification consiste à arrondir des valeurs continues ou de haute précision vers un ensemble fini de valeurs. L'erreur est généralement faible par échantillon, mais les dégradés doux la révèlent sous forme de bandes de contour, car les pixels voisins s'arrondissent vers les mêmes quelques valeurs de sortie. Le tramage ajoute délibérément du bruit avant l'arrondi : il augmente le bruit local, mais brise les bandes cohérentes, ce qui est souvent perçu comme mieux par la vision humaine et se comprime différemment selon les codecs. • Dégradé source vs sortie : la bande supérieure montre le dégradé d'entrée mathématiquement lisse. La bande inférieure montre la sortie quantifiée, arrondie aux niveaux sélectionnés. À faible profondeur de bits, cet arrondi crée des bandes de contour visibles. • Graphique de l'erreur de quantification : il trace la différence (sortie − entrée) à chaque position du dégradé. La ligne jaune est l'erreur, et la ligne verte représente l'erreur nulle. De grandes ondes d'erreur périodiques indiquent du banding, tandis que l'ajout de tramage transforme cette erreur en bruit haute fréquence aléatoire.

Les bits, c'est le nombre de paliers 🖖

Un dégradé réel est continu, mais un ordinateur doit choisir dans une liste fixe de valeurs. La profondeur de bits fixe la longueur de cette liste : chaque bit supplémentaire double le nombre, donc 8 bits donnent 2⁸ = 256 nuances et 10 bits en donnent 1024. Moins de paliers signifie un arrondi plus grossier ; c'est pourquoi, en descendant à 6 bits (64 nuances), un ciel lisse se brise en bandes visibles.

Chaque bit en plus rapporte environ 6 dB 🖖

Une règle nette se cache dans la valeur du SNR : en quantification uniforme, chaque bit supplémentaire améliore le rapport signal sur bruit d'environ 6.02 dB, selon SNR ≈ 6.02·N + 1.76 dB pour une sinusoïde pleine échelle. La même formule régit les convertisseurs audio et les encodeurs d'image, si bien qu'une piste audio 16 bits et une image 16 bits partagent le même plancher de bruit de quantification théorique. Un bit de plus, 6 dB de gagnés — quel que soit le support.

UNE ÉTAPE D'UNE CHAÎNE — CE QUI ENTRE, CE QUI SORT, CE QUI CASSE ENSUITE

Où cette étape se situe dans la chaîne d'encodage

Un encodeur vidéo n'est pas un algorithme mais huit étapes dans un ordre fixe, et cet ordre n'est pas arbitraire : chaque étape existe parce que la précédente a rendu son travail possible. Cet outil modélise l'une d'elles. La chaîne ci-dessous renvoie aux sept autres.

Laboratoire de quantification — divise les coefficients par un pas et arrondit — la seule étape volontairement avec perte

Ce qui entre
Les coefficients de transformée du résidu, en pleine précision.
Ce qui sort
Des entiers plus grossiers, la plupart des petits coefficients haute fréquence étant arrondis à zéro.
Ce que suppose l'étape suivante
Le codage entropique suppose de longues suites de zéros à exploiter. C'est cette étape qui les fabrique.
Ce qui se casse ici
C'est la seule étape qui jette de l'information à dessein : c'est donc ici que la qualité se décide réellement. Un pas trop grossier fait s'effondrer un dégradé lisse en bandes visibles, car des tons voisins s'arrondissent au même entier.

Problème entièrement résolu

  1. Réconcilier les 56,18 dB d'une quantification 8 bits avec la règle du manuel 6 étapes

    La quantification sur 8 bits donne 56,18 dB ici, mais la règle classique des manuels donne 6,02 × 8 + 1,76 = 49,92 dB. Les deux sont exactes. Réconciliez-les.

    1. Le pas de quantification est la plage divisée par les intervalles entre les niveaux, et non par les niveaux eux-mêmes — 256 niveaux laissent 255 intervalles, et cette erreur d'une unité représente 0,017 dB que personne ne remarquerait mais produit une formule erronée que tout le monde hériterait.

    2. L'arrondi au niveau le plus proche laisse une erreur répartie uniformément sur un pas. Sa RMS vaut le pas divisé par √12, ce qui constitue le seul élément de statistique de toute la démonstration.

    3. Comparez cette prédiction à ce que l'outil a mesuré sur les 900 échantillons. Une concordance à 1 % près est ce que vaut l'hypothèse d'une erreur uniforme sur une rampe réelle.

    4. Le RSB est le rapport des deux valeurs RMS en décibels. Les deux nombres étant affichés, cette étape constitue une vérification plutôt qu'une démonstration.

    5. Voici maintenant la règle classique des manuels, en rendant son hypothèse explicite. Elle est établie pour un sinus qui remplit exactement la plage d'entrée.

    6. Prenez le rapport des deux valeurs RMS et convertissez. La correction comble l'écart à quatre centièmes de décibel près.

    Réponse

    L'écart de 6,2 dB est le facteur de crête, et rien d'autre. 6,02N + 1,76 n'est pas une loi sur les convertisseurs, c'est une loi sur les sinus pleine échelle — un sinus occupant toute la plage a une RMS de 1/(2√2) = 0,354 de celle-ci. Cette rampe d'image a une RMS de 0,724, soit un peu plus du double, et 20 log₁₀(2,05) donne 6,22 dB. Ajoutez-le et vous obtenez 56,14 contre les 56,18 du panneau, les 0,04 dB restants s'expliquant par l'erreur mesurée, inférieure de 0,7 % au Δ/√12 théorique. Ainsi, le RSB annoncé de n'importe quel système réel caractérise le signal autant que le matériel, ce qui explique pourquoi les ingénieurs du son indiquent la réserve de niveau séparément et pourquoi un passage silencieux sur un disque 16 bits ne bénéficie d'aucun 96 dB.

Références (1)

Exemples de problèmes

  • cinéma 10 bits - Configuration en 10 bits façon étalonnage, avec des transitions tonales douces
  • web 8 bits - Pipeline standard en 8 bits avec des pas de quantification modérés
  • bas 6 bits - Une précision faible fait apparaître un bandage de contours visible
  • 6 bits tramé - Le tramage échange un bruit léger contre une réduction du bandage