Kwantyzacja

Kwantyzacja polega na przyporządkowaniu wartościom sygnału z jakiegoś określonego ciągłego przedziału wartości dyskretnych z przyjętego skończonego zbioru. Maksymalna wartość sygnału dzielona jest na szereg drobniejszych przedziałów. Zazwyczaj przedziały mają taką samą wielkość (jest to kwantyzacja liniowa), ale są wyjątki od tej reguły i niekiedy stosuje się kwantyzację nieliniową. Z każdym przedziałem powiązana jest określona liczba. Jeśli wielkość sygnału wejściowego mieści się w danym przedziale, to wówczas jest ona reprezentowana przez liczbę związaną z tym przedziałem.

Ponieważ w procesie kwantyzacji sygnał jest zaokrąglany w rezultacie powstają błędy. Błędy te objawiają się w postaci tak zwanego szumu kwantyzacji. Im większe przedziały kwantyzacji, tym mniejsza dokładność kawntyzacji i tym większy szum kwantyzacji. W przetwarzaniu analogowo-cyfrowym dokładność liniowej kwantyzacji jest określona przez ilość bitów wykorzystywanych do zapisu skwantowanej wartości. Zwiększenie ilości bitów prowadzi do zwiększenia ilości przedziałów i dokładniejszego odwzorowania sygnału.

Przy liniowej kwantyzacji na każdy bit przypada w przybliżeniu 6dB zakresu dynamiki. Operując słowem 16-bitowym otrzymujemy zakres dynamiki około 96dB.

W amatorskim zapisie dźwięku najczęściej stosuje się długość słowa 16 bitów (co daje 2¹⁶ = 65,536 poziomów kwantyzacji). Inne spotykane wartości to 20 bitów (1,048,576 poziomów), 24 bity (16,777,216 poziomów), a nawet 32 bity. Rozdzielczości 20 lub 24 bity w pierwszej kolejności zaczęto szerzej stosować w sprzęcie profesjonalnym. W sprzęcie domowym wyższe rozdzielczości pojawiły się na nowszych nośnikach optycznych (DVD-Video, DVD-Audio, Blu-ray), a także w plikach z muzyką.