Howtosignalprocessing
- Co jest kompromisem między stronniczością i wariancją?
- Co to jest wysokie uprzedzenie i wysoka wariancja?
- Czy regularyzacja zwiększa stronniczość?
Co jest kompromisem między stronniczością i wariancją?
Kompromis odchylenia
„Stronniczość i wariancja są wzajemnie uzupełnienia”. Wzrost jednego spowoduje spadek drugiego i odwrotnie. Dlatego znalezienie właściwej równowagi wartości jest znane jako kompromis odchylenia. Funkcja celu. Idealny algorytm nie powinien ani znieść, ani nadmiernie tworzyć dane.
Co to jest wysokie uprzedzenie i wysoka wariancja?
Po prostu stwierdzono, że wariancja jest zmiennością prognozowania modelu - ile funkcji ML może się dostosować w zależności od podanego zestawu danych. Wariancja pochodzi z bardzo złożonych modeli z dużą liczbą funkcji. Modele o wysokim odchyleniu będą miały niską wariancję. Modele o wysokiej wariancji będą miały niskie uprzedzenie.
Czy regularyzacja zwiększa stronniczość?
Regularyzacja próbuje zmniejszyć wariancję estymatora poprzez uproszczenie go, co zwiększy stronniczość, w taki sposób, że oczekiwany błąd spadnie.
