O ŚREDNIEJ STATYSTYCZNEJ

Transkrypt

1 O ŚREDNIEJ STATYSTYCZNEJ Ryszard Zieliński XII Międzynarodowe Warsztaty dla Młodych Matematyków Rachunek Prawdopodobieństwa i Statystyka Kraków, IX 2009 r.

2 WYNIKI OBSERWACJI X 1, X 2,..., X n

3 WYNIKI OBSERWACJI X 1, X 2,..., X n Model statystyczny: X i = µ + ε i, i = 1, 2,..., n

4 WYNIKI OBSERWACJI X 1, X 2,..., X n Model statystyczny: X i = µ + ε i, i = 1, 2,..., n µ

5 UŚREDNIENIE X = 1 n X j n j=1

6 UŚREDNIENIE X = 1 n X j n j= X. µ

7 UZASADNIENIE średnia X minimalizuje względem µ funkcję n j=1 (X i µ) 2

8 p 2. p p 1... q p i p i q 2 min 2... p 5

9 astronomia, metrologia, geodezja,... ROZKŁAD NORMALNY N(µ, σ 2 ) ϕ(x) = 1 σ 2π exp { 1 2 ( ) x µ 2 } σ

10 n= n=4 0.2 n= µ = 2.

11 Jak to się dzieje? Funkcja charakterystyczna rozkładu normalnego N(µ, σ): φ X (t) = exp{iµt 1 2 σ2 t 2 }

12 FUNKCJA CHARAKTERYSTYCZNA (przypomnienie) zmiennej losowej X o rozkładzie z gęstością z dystrybuantą F : φ X (t) = e itx df (x) (Transformata Fouriera rozkładu F ) Dla stałej λ: φ λx (t) = φ X (λt) Jeżeli X i Y są niezależne, to φ X +Y (t) = φ X (t) φ Y (t)

13 Funkcja charakterystyczna rozkładu normalnego N(µ, σ): φ X (t) = exp{iµt 1 2 σ2 t 2 } Funkcja charakterystyczna średniej X = n j=1 X j /n: φ X (t) = exp{iµt 1 ( ) σ 2 t 2 } 2 n

14 Funkcja charakterystyczna rozkładu normalnego N(µ, σ): φ X (t) = exp{iµt 1 2 σ2 t 2 } Funkcja charakterystyczna średniej X = n j=1 X j /n: φ X (t) = exp{iµt 1 ( ) σ 2 t 2 } 2 n Inne rozkłady?

15 Rozkłady o trochę tłuściejszych ogonach:

16 TŁUSTE OGONY - rozmiar finansowej odpowiedzialności ubezpieczyciela w związku z wypadkami losowymi jego klientów przy ubezpieczeniu OC, AC oraz od wypadków przy pracy

17 TŁUSTE OGONY - rozmiar finansowej odpowiedzialności ubezpieczyciela w związku z wypadkami losowymi jego klientów przy ubezpieczeniu OC, AC oraz od wypadków przy pracy - wielkość plików przesyłanych w internecie

18 TŁUSTE OGONY - rozmiar finansowej odpowiedzialności ubezpieczyciela w związku z wypadkami losowymi jego klientów przy ubezpieczeniu OC, AC oraz od wypadków przy pracy - wielkość plików przesyłanych w internecie - pojemność złóż ropy naftowej

19 TŁUSTE OGONY - rozmiar finansowej odpowiedzialności ubezpieczyciela w związku z wypadkami losowymi jego klientów przy ubezpieczeniu OC, AC oraz od wypadków przy pracy - wielkość plików przesyłanych w internecie - pojemność złóż ropy naftowej - rozmiary osiedli ludzkich

20 TŁUSTE OGONY - rozmiar finansowej odpowiedzialności ubezpieczyciela w związku z wypadkami losowymi jego klientów przy ubezpieczeniu OC, AC oraz od wypadków przy pracy - wielkość plików przesyłanych w internecie - pojemność złóż ropy naftowej - rozmiary osiedli ludzkich - tzw. zwroty w operacjach giełdowych

21 ROZKŁAD CAUCHY EGO (Lorenza, Breita-Wignera) Ca(µ, λ) g(y) = 1 π Funkcja charakterystyczna: λ λ 2 + (y µ) 2, G(y) = π arctg y µ λ φ Y (t) = exp{iµt λt }

22 ROZKŁAD CAUCHY EGO (Lorenza, Breita-Wignera) Ca(µ, λ) g(y) = 1 π Funkcja charakterystyczna: λ λ 2 + (y µ) 2, G(y) = π arctg y µ λ φ Y (t) = exp{iµt λt } Funkcja charakterystyczna średniej Y = n j=1 Y j /n:

23 ROZKŁAD CAUCHY EGO (Lorenza, Breita-Wignera) Ca(µ, λ) g(y) = 1 π Funkcja charakterystyczna: λ λ 2 + (y µ) 2, G(y) = π arctg y µ λ φ Y (t) = exp{iµt λt } Funkcja charakterystyczna średniej Y = n j=1 Y j /n: φ Y (t) = exp{iµt λt }

24 ROZKŁAD CAUCHY EGO ROZKŁAD ŚREDNIEJ ARYTMETYCZNEJ Z PRÓBY JEST TAKI SAM JAK ROZKŁAD POJEDYNCZEJ OBSERWACJI

25 Ogólniej: SYMETRYCZNE ROZKŁADY α-stabilne exp{iµt λt α }

26 Ogólniej: SYMETRYCZNE ROZKŁADY α-stabilne exp{iµt λt α } ( exp{iµ t n λ t n α }) n = exp{iµt n 1/α 1 λt α } α=2 rozkład normalny; α=1 rozkład Cauchy ego

27 rozk lad pojedynczej obserwacji rozk lad średniej

28 MEDIANA Mediana M minimalizuje względem µ funkcję n j=1 X i µ

29 p 2. p p 1... q p i p i q 1 min... p 5

30 MEDIANA Próba: X 1, X 2,..., X n Statystyki pozycyjne: X 1:n, X 2:n,..., X n:n X 1:n X 2:n... X n:n

31 MEDIANA Wyniki obserwacji: X 1, X 2,..., X 2n+1 Mediana z próby: X n:2n+1 (2n + 1)! ( nf (n!) 2 F (x)[1 F (x)]) (x)

32 n= n=5 0.2 n= µ = 2.

33 Mediana z próby X 1, X 2,..., X n M n = 1 2 ( X n 2 :n + X n 2 +1:n ), jeżeli n jest parzyste, X [ n+1 2 ]:n, jeżeli n jest nieparzyste

34 Efektywność mediany w rozkładzie N(0, 1) e(n) = Var(X n) Var(M n ) n e(n)

35 Efektywność mediany w rozkładzie U(0, 1) n e(n)

36 Obciążenie estymatora?

37 Mediana z próby parzystej jest najczęściej definiowana jako średnia arytmetyczna dwóch środkowych obserwacji

38 Mediana z próby parzystej jest najczęściej definiowana jako średnia arytmetyczna dwóch środkowych obserwacji Ogólniej: liniowy estymator kwantyla rzędu q (L-statystyka) c 1 X 1:n + c 2 X 2:n c n X n:n

39 Mediana z próby parzystej jest najczęściej definiowana jako średnia arytmetyczna dwóch środkowych obserwacji Ogólniej: liniowy estymator kwantyla rzędu q (L-statystyka) c 1 X 1:n + c 2 X 2:n c n X n:n Efektywne konstrukcje w modelach z parametrem położenia

40 Mediana z próby parzystej jest najczęściej definiowana jako średnia arytmetyczna dwóch środkowych obserwacji Ogólniej: liniowy estymator kwantyla rzędu q (L-statystyka) c 1 X 1:n + c 2 X 2:n c n X n:n Efektywne konstrukcje w modelach z parametrem położenia Modele statystyczne z parametrem położenia: X = µ + ε, µ nieznane, ε F, F znane

41 Mediana z próby parzystej jest najczęściej definiowana jako średnia arytmetyczna dwóch środkowych obserwacji Ogólniej: liniowy estymator kwantyla rzędu q (L-statystyka) c 1 X 1:n + c 2 X 2:n c n X n:n Efektywne konstrukcje w modelach z parametrem położenia Modele statystyczne z parametrem położenia: X = µ + ε, µ nieznane, ε F, F znane Estymacja kwantyla?

42 Mediana z próby parzystej jest najczęściej definiowana jako średnia arytmetyczna dwóch środkowych obserwacji Ogólniej: liniowy estymator kwantyla rzędu q (L-statystyka) c 1 X 1:n + c 2 X 2:n c n X n:n Efektywne konstrukcje w modelach z parametrem położenia Modele statystyczne z parametrem położenia: X = µ + ε, µ nieznane, ε F, F znane Estymacja kwantyla? Niesymetryczne F,

43 Mediana z próby parzystej jest najczęściej definiowana jako średnia arytmetyczna dwóch środkowych obserwacji Ogólniej: liniowy estymator kwantyla rzędu q (L-statystyka) c 1 X 1:n + c 2 X 2:n c n X n:n Efektywne konstrukcje w modelach z parametrem położenia Modele statystyczne z parametrem położenia: X = µ + ε, µ nieznane, ε F, F znane Estymacja kwantyla? Niesymetryczne F, V@R

44 Liniowy estymator nieobciążony o minimalnej wariancji: C = M 1 R ( ) ( ) 1 R T M 1 F R 1 (q) 1 E F X 1:n 1 R =......, M i,j = Cov F (X i:n, X j:n ) E F X n:n 1

45 Liniowy estymator nieobciążony o minimalnej wariancji: C = M 1 R ( ) ( ) 1 R T M 1 F R 1 (q) 1 E F X 1:n 1 R =......, M i,j = Cov F (X i:n, X j:n ) E F X n:n 1 Minimalna wariancja: Var L (q, n) = ( ) F 1 T ( ) (q) ( ) 1 R T M 1 F R 1 (q) 1 1

46 Liniowy estymator nieobciążony o minimalnej wariancji: C = M 1 R ( ) ( ) 1 R T M 1 F R 1 (q) 1 E F X 1:n 1 R =......, M i,j = Cov F (X i:n, X j:n ) E F X n:n 1 Minimalna wariancja: Var L (q, n) = ( ) F 1 T ( ) (q) ( ) 1 R T M 1 F R 1 (q) 1 1 Var L (q, n + 1) < Var L (q, n)???

47 Przykład: Estymacja kwantyla rzędu q rozkładu normalnego: (Var UMVU (q, 5),Var L (q, 5)) = , , , = dla q = , , ,

48 Przykład: Estymacja mediany rozkładu Cauchy ego: c 3 X 3:n + c 4 X 4:n c n 2 X n 2:n Liniowy estymator nieobciążony o minimalnej wariancji: C = M 1 R ( ) ( ) 1 R T M 1 0 R 1 E F X 3:n 1 R = M i,j = Cov F (X i:n, X j:n ) E F X n 2:n 1

49 Duży model nieparametryczny : rodzina F wszystkich rozkładów o ciągłych i ściśle rosnących dystrybuantach na prostej

50 Duży model nieparametryczny : rodzina F wszystkich rozkładów o ciągłych i ściśle rosnących dystrybuantach na prostej Mediana z próby pochodzącej z rozkładu F jako estymator mediany m(f ) tego rozkładu

51 Duży model nieparametryczny : rodzina F wszystkich rozkładów o ciągłych i ściśle rosnących dystrybuantach na prostej Mediana z próby pochodzącej z rozkładu F jako estymator mediany m(f ) tego rozkładu Twierdzenie. Dla każdego C > 0 istnieje taki rozkład F F, że Med F ( ) X n 2 :n + X n 2 +1:n 2 m(f ) > C

52 Duży model nieparametryczny : rodzina F wszystkich rozkładów o ciągłych i ściśle rosnących dystrybuantach na prostej Mediana z próby pochodzącej z rozkładu F jako estymator mediany m(f ) tego rozkładu Twierdzenie. Dla każdego C > 0 istnieje taki rozkład F F, że Med F ( ) X n 2 :n + X n 2 +1:n 2 m(f ) > C TWIERDZENIE JEST PRAWDZIWE DLA WSZYSTKICH NIETRYWIALNYCH L-STATYSTYK!

53 Duży model nieparametryczny F Rodzina wszystkich rozkładów o ciągłych i ściśle rosnących dystrybuantach Jeżeli X ma rozkład F z rodziny F i jeżeli g : R 1 R 1 jest przekształceniem monotonicznym, to zmienna losowa g(x ) też ma rozkład z rodziny F

54 Duży model nieparametryczny F Rodzina wszystkich rozkładów o ciągłych i ściśle rosnących dystrybuantach Jeżeli X ma rozkład F z rodziny F i jeżeli g : R 1 R 1 jest przekształceniem monotonicznym, to zmienna losowa g(x ) też ma rozkład z rodziny F Jeżeli X ma rozkład F F z medianą m(f ) i jeżeli g : R 1 R 1 jest przekształceniem monotonicznym, to zmienna losowa g(x ) ma rozkład z medianą g(m(f )).

55 Duży model nieparametryczny F Rodzina wszystkich rozkładów o ciągłych i ściśle rosnących dystrybuantach Jeżeli X ma rozkład F z rodziny F i jeżeli g : R 1 R 1 jest przekształceniem monotonicznym, to zmienna losowa g(x ) też ma rozkład z rodziny F Jeżeli X ma rozkład F F z medianą m(f ) i jeżeli g : R 1 R 1 jest przekształceniem monotonicznym, to zmienna losowa g(x ) ma rozkład z medianą g(m(f )). Jeżeli X ma rozkład F F z kwantylem x q (F ) rzędu q i jeżeli g : R 1 R 1 jest przekształceniem monotonicznym, to zmienna losowa g(x ) rozkład z kwantylem rzędu q równym g(x q (F )).

56 Postulat pod adresem estymatora mediany (kwantyla): Jeżeli T jest nieobciążonym estymatorem mediany (kwantyla rzędu q) zmiennej losowej X, to g(t ) jest nieobciążonym estymatorem mediany (kwantyla rzędu q) zmiennej losowej g(x )

57 Postulat pod adresem estymatora mediany (kwantyla): Jeżeli T jest nieobciążonym estymatorem mediany (kwantyla rzędu q) zmiennej losowej X, to g(t ) jest nieobciążonym estymatorem mediany (kwantyla rzędu q) zmiennej losowej g(x ) Nieobciążony?

58 Estymacja kwantyla x q (F ) rzędu q rozkładu F. Konstrukcja medianowo nieobciążonego estymatora o maksymalnej koncentracji:

59 P {T x} x q. x

60 Definiujemy π k (q) = P F {X k:n x q (F )} = n j=k Wybieramy k takie, że π k (q) 1 2 > π k+1(q) Obliczamy λ k = 1 2 π k+1(q) π k (q) π k+1 (q) ( ) n q j (1 q) n j j Medianowo nieobciążony estymator o maksymalnej koncentracji ma postać T = X J :n, P{J =k}=λ k, P{J =k +1}=1 λ k

61 Estymacja mediany (q = 1/2) π k ( 1 2 ) = 1 2 n n ( n ) j j=k 1 ( ), n = 2m + 1, 1 2 π m+1 = ( 2m ), n = 2m 2 2m m X m+1, n = 2m + 1 Estymator = 1 (0,0.5] (R)X m + 1 (0.5,1) (R)X m+1, n = 2m R U(0, 1)

62 WNIOSKI:

63 WNIOSKI: W modelu statystycznym {F µ ( ) = F ( µ)}, na podstawie obserwacji X 1, X 2,..., X n, estymuj µ za pomocą:

64 WNIOSKI: W modelu statystycznym {F µ ( ) = F ( µ)}, na podstawie obserwacji X 1, X 2,..., X n, estymuj µ za pomocą: Gdy F = N(0, σ 2 ) średniej arytmetycznej z próby

65 WNIOSKI: W modelu statystycznym {F µ ( ) = F ( µ)}, na podstawie obserwacji X 1, X 2,..., X n, estymuj µ za pomocą: Gdy F = N(0, σ 2 ) średniej arytmetycznej z próby Gdy F N(0, σ 2 ), ale F znane pomyśl np o L-statystykach

66 WNIOSKI: W modelu statystycznym {F µ ( ) = F ( µ)}, na podstawie obserwacji X 1, X 2,..., X n, estymuj µ za pomocą: Gdy F = N(0, σ 2 ) średniej arytmetycznej z próby Gdy F N(0, σ 2 ), ale F znane pomyśl np o L-statystykach Gdy F nie jest znane, pomyśl o medianowo nieobciążonym estymatorze o maksymalnej koncentracji wokół µ

67 WNIOSKI: W modelu statystycznym {F µ ( ) = F ( µ)}, na podstawie obserwacji X 1, X 2,..., X n, estymuj µ za pomocą: Gdy F = N(0, σ 2 ) średniej arytmetycznej z próby Gdy F N(0, σ 2 ), ale F znane pomyśl np o L-statystykach Gdy F nie jest znane, pomyśl o medianowo nieobciążonym estymatorze o maksymalnej koncentracji wokół µ ZAWSZE PRZED WYBOREM ESTYMATORA STARANNIE PRZEMYŚL WSZYSTKO CO WIESZ O ROZKŁADZIE. ZBYT POCHOPNE UŚREDNIANIE OBSERWACJI MOŻE POPSUĆ WNIOSKOWANIE

68 WNIOSKI: W modelu statystycznym {F µ ( ) = F ( µ)}, na podstawie obserwacji X 1, X 2,..., X n, estymuj µ za pomocą: Gdy F = N(0, σ 2 ) średniej arytmetycznej z próby Gdy F N(0, σ 2 ), ale F znane pomyśl np o L-statystykach Gdy F nie jest znane, pomyśl o medianowo nieobciążonym estymatorze o maksymalnej koncentracji wokół µ ZAWSZE PRZED WYBOREM ESTYMATORA STARANNIE PRZEMYŚL WSZYSTKO CO WIESZ O ROZKŁADZIE. ZBYT POCHOPNE UŚREDNIANIE OBSERWACJI MOŻE POPSUĆ WNIOSKOWANIE ;)