UNA ETAPA DE UNA CADENA: QUÉ LLEGA, QUÉ SALE Y QUÉ SE ROMPE DESPUÉS
Dónde encaja esto en la tubería de codificación
Un codificador de vídeo no es un algoritmo, sino ocho etapas en un orden fijo, y el orden no es arbitrario: cada etapa existe porque la anterior hizo posible su trabajo. Esta herramienta modela una de ellas. La cadena de abajo enlaza con las otras siete.
Laboratorio de cuantización — divide los coeficientes por un tamaño de paso y redondea: el único paso deliberadamente con pérdida
- Qué llega
- Coeficientes de la transformada del residuo, a precisión completa.
- Qué sale
- Enteros más gruesos, con la mayoría de los coeficientes pequeños de alta frecuencia redondeados a cero.
- Qué supone la etapa siguiente
- La codificación entrópica supone largas rachas de ceros que explotar. Esta etapa es la que las fabrica.
- Qué se estropea aquí
- Es la única etapa que descarta información a propósito, así que aquí se decide realmente la calidad. Un paso demasiado grueso hace que un degradado suave se derrumbe en bandas visibles, porque tonos vecinos redondean al mismo entero.
Problema resuelto al detalle
-
Reconciliar 56,18 dB de cuantización de 8 bits con la regla del libro de texto 6 pasos
La cuantización de 8 bits da 56,18 dB aquí, pero la regla del libro de texto dice 6,02 × 8 + 1,76 = 49,92 dB. Ambos son correctos. Concílielos.
-
El tamaño de paso es el rango dividido entre los intervalos entre niveles, no entre los niveles: 256 niveles dejan 255 intervalos, y el error de desfase por una unidad supone 0,017 dB que nadie notaría y una fórmula errónea que todo el mundo heredaría.
-
El redondeo al nivel más cercano deja un error distribuido uniformemente a lo largo de un paso. Su valor RMS es el paso dividido por √12, que es la única pieza de estadística de toda la deducción.
-
Compare esa predicción con lo que la herramienta midió en las 900 muestras. Una concordancia dentro del 1% es lo que vale la hipótesis del error uniforme en una rampa real.
-
La SNR es la relación entre los dos valores RMS en decibelios. Ambos números están impresos, por lo que este paso es una comprobación en lugar de una deducción.
-
Ahora la regla del libro de texto, con su supuesto hecho explícito. Se deduce para una senoidal que justo llena el rango de entrada.
-
Calcule la relación entre los dos valores RMS y conviértala. La corrección reduce la diferencia a menos de cuatro centésimas de decibelio.
Respuesta
La diferencia de 6,2 dB es el factor de cresta, y nada más. 6,02N + 1,76 no es una ley sobre conversores, es una ley sobre ondas senoidales a escala completa: una senoidal que llena el rango tiene un valor RMS de 1/(2√2) = 0,354 de este. Esta rampa de la imagen tiene un valor RMS de 0,724, algo más del doble, y 20 log₁₀(2,05) es 6,22 dB. Al sumarlo se obtiene 56,14 frente a los 56,18 del panel, correspondiendo los 0,04 dB restantes a que el error medido queda un 0,7% por debajo del teórico Δ/√12. Por tanto, la SNR especificada de cualquier sistema real es una afirmación tanto sobre la señal como sobre el hardware, razón por la cual los ingenieros de audio indican el headroom por separado y por la que un pasaje silencioso en un disco de 16 bits no obtiene 96 dB de nada.
-
Referencias (1)
- Insight block 3 says each extra bit is worth about 6 dB. Where that number comes from, and when it stops being true: B. Widrow & I. Kollár, Quantization Noise: Roundoff Error in Digital Computation, Signal Processing, Control, and Communications. Cambridge University Press, 2008.