Howtosignalprocessing
- Co to jest skala i zerowy punkt kwantyzacji?
- Jaka jest skala kwantyzacji?
- Jaka jest koncepcja kwantyzacji?
Co to jest skala i zerowy punkt kwantyzacji?
Współczynnik skali i punkt zerowy są używane do mapowania wartości zmiennoprzecinkowej do siatki całkowitej, której rozmiar zależy od szerokości bitowej. Współczynnik skali jest powszechnie reprezentowany jako liczba zmiennoprzecinkowa i określa wielkość kwantyzatora.
Jaka jest skala kwantyzacji?
Skala kwantyzacja to technika mapowania zakresu symetrycznego (bez punktu zerowego), która służy do mapowania wejścia o zakres danego zakresu (powiedzmy [A1, A2]) do kwantyzowanego zakresu bitów wielkości B. Jednym z przykładów jest konwersja danych FP32 danego zakresu na dane INT8.
Jaka jest koncepcja kwantyzacji?
Kwantyzacja to proces mapowania ciągłych wartości nieskończonych na mniejszy zestaw dyskretnych wartości skończonych. W kontekście symulacji i wbudowanych obliczeń chodzi o przybliżenie wartości rzeczywistych z cyfrową reprezentacją, która wprowadza ograniczenia precyzji i zakresu wartości.
