Laboratório de quantização

A quantização é onde valores contínuos ou de alta precisão são arredondados para um codebook finito. O erro costuma ser pequeno por amostra, mas gradientes suaves o expõem como bandas de contorno, porque pixels vizinhos arredondam para os mesmos poucos valores de saída. O dither adiciona ruído deliberadamente antes do arredondamento: ele aumenta o ruído local, mas quebra bandas coerentes, o que muitas vezes parece melhor para a visão humana e é comprimido de forma diferente nos codecs. • Gradiente de origem vs. saída: a faixa superior mostra o gradiente de entrada matematicamente suave. A faixa inferior mostra a saída quantizada, arredondada para os níveis selecionados. Em profundidades de bits baixas, esse arredondamento cria bandas de contorno visíveis. • Gráfico de erro de quantização: isso plota a diferença (saída − entrada) em cada posição ao longo do gradiente. A linha amarela é o erro, e a linha verde representa erro zero. Grandes ondas de erro periódicas indicam banding, enquanto adicionar dither randomiza esse erro em ruído de alta frequência.

Um degradê no mundo real é contínuo, mas um computador precisa escolher de uma lista fixa de valores. A profundidade de bits define o tamanho dessa lista: cada bit a mais dobra a quantidade, então 8 bits dão 2⁸ = 256 tons e 10 bits dão 1024. Menos degraus significam arredondamento mais grosseiro; por isso, ao cair para 6 bits (64 tons), um céu suave se quebra em faixas visíveis.

Há uma regra limpa escondida no valor de SNR: na quantização uniforme, cada bit adicional melhora a relação sinal-ruído em cerca de 6.02 dB, segundo SNR ≈ 6.02·N + 1.76 dB para uma senoide de plena escala. A mesma fórmula rege conversores de áudio e codificadores de imagem, de modo que uma faixa de áudio de 16 bits e uma imagem de 16 bits compartilham o mesmo piso de ruído de quantização teórico. Um bit a mais, 6 dB de ganho — não importa o meio.