Testowanie hipotez statystycznych.

Transkrypt

1 Statystyka Wykład 10 Wrocław, 22 grudnia 2011

2 Testowanie hipotez statystycznych Definicja. Hipotezą statystyczną nazywamy stwierdzenie dotyczące parametrów populacji. Definicja. Dwie komplementarne w problemie testowania hipotez hipotezy nazywamy odpowiednio hipotezą zerową i hipotezą alternatywną. Oznaczamy je odpowiednio H 0 i H 1 (czasami H 1 oznaczana jest przez H A ).

5 Testowanie hipotez statystycznych Jeśli θ oznacza parametr populacji, wtedy ogólna postać hipotez hipotezy zerowej i hipotezy alternatywnej przyjmuje postać H 0 : θ Θ 0, H 1 : θ Θ c 0, gdzie Θ 0 jest pewnym podzbiorem przestrzeni parametrów a Θ c 0 jego dopełnieniem. H 0 : θ = 0, H 1 : θ = 0. H 0 : θ θ 0, H 1 : θ < θ 0.

8 Definicja. Procedura testowania hipotezy statystycznej lub test hipotezy polega na znalezieniu reguły, która pozwala podjąć decyzję dla jakich wartości próby zaakceptować hipotezę zerową jako prawdziwą, dla jakich wartości próby odrzucić hipotezę zerową i zaakceptować jako prawdziwą hipotezę alternatywną. Zbiór tych wartości próby, dla których H 0 jest odrzucana nazywamy zbiorem krytycznym lub obszarem krytycznym. Dopełnienie obszaru krytycznego nazywamy obszarem przyjęcia hipotezy zerowej.

13 Metody konstrukcji testów statystycznych

14 Niech X 1,..., X n będzie próbą losową z rozkładu o gęstości f (x θ) (θ może być wektorem). Funkcję wiarogodności L(θ) definiujemy w następujący sposób L(θ x 1, x 2,..., x n ) = L(θ x) = f (x θ) = n f (x i θ). i=1

15 Niech Θ oznacza całą przestrzeń wartości parametru populacji. Definicja. Statystyka testowa testu ilorazu wiarogodności dla testowania hipotezy H 0 : θ Θ 0 przeciwko hipotezie alternatywnej H 1 : θ Θ c 0 ma postać λ(x) = sup Θ 0 L(θ x) sup Θ L(θ x). Test ilorazu wiarogodności to dowolny test, którego obszar odrzucenia hipotezy zerowej jest postaci {x : λ(x) c}, gdzie c jest dowolna liczbą 0 c 1.

16 Niech Θ oznacza całą przestrzeń wartości parametru populacji. Definicja. Statystyka testowa testu ilorazu wiarogodności dla testowania hipotezy H 0 : θ Θ 0 przeciwko hipotezie alternatywnej H 1 : θ Θ c 0 ma postać λ(x) = sup Θ 0 L(θ x) sup Θ L(θ x). Test ilorazu wiarogodności to dowolny test, którego obszar odrzucenia hipotezy zerowej jest postaci {x : λ(x) c}, gdzie c jest dowolna liczbą 0 c 1.

17 Przykład. Niech X 1,..., X n będzie próba losową z rozkładu normalnego N(μ, 1) o gęstości f (x μ) = 1 2π e (x μ)2 2. Funkcja wiarogodności ma postać [ ] n L(θ x) = (2π) n/2 exp (x i μ) 2 /2. i 1

18 Przykład cd. Statystyka testowa dla testu ilorazu wiarogodności dla testowania hipotezy H 0 : μ = μ 0 przeciwko hipotezie alternatywnej H 1 : μ = μ 0, gdzie μ jest ustaloną z góry wartością, ma postać λ(x) = (2π) n/2 exp [ n i=1 (x i μ 0 ) 2 /2 ] (2π) n/2 exp [ n i=1 (x i x) 2 /2] Po przekształceniach [( λ(x) = exp n (x i μ 0 ) 2 + i=1 ) ] n (x i x) 2 /2. i=1

19 Przykład cd. [( ) ] n n λ(x) = exp (x i μ 0 ) 2 + (x i x) 2 /2. Biorąc pod uwagę równość i=1 i=1 n (x i μ 0 ) 2 = i=1 n (x i x) 2 + n( x μ 0 ) 2, i=1 otrzymujemy λ(x) = exp [ n( x μ 0 ) 2 /2 ]. Obszar krytyczny {x : λ(x) c} testu ilorazu wiarogodności ma w tym przypadku postać { } 2 ln c x : x μ 0. n

20 Przykład. Niech X 1,..., X n będzie próba losową z rozkładu wykładniczego { e (x θ), x θ, f (x θ) = 0, x < θ, gdzie < θ <. Funkcja wiarogodności ma postać { e n i=1 L(θ x) = x i +nθ, θ min x i, 0, θ > min x i,

21 Przykład cd. Testu ilorazu wiarogodności dla testowania hipotezy H 0 : θ 5 przeciwko hipotezie alternatywnej H 1 : θ > 5 ma postać { 1, x(1:n) 5, λ(x) = e n(x (1:n) 5), x (1:n) > 5, gdzie x (1:n) = max 1 i n x i. Obszar krytyczny testu ilorazu wiarogodności ma w tym przypadku postać { x : x (1:n) 5 ln c }. n

22 Temat. Weryfikacja hipotez statystycznych dotyczących wartości oczekiwanej w populacji o rozkładzie normalnym.

23 Model 1. Testowanie hipotezy dotyczącej średniej gdy wariancja jest znana. Niech X 1,..., X n będzie próbą statystyczną z rozkładu N(μ, σ 2 ), przy czym σ 2 jest znane. Testujemy hipotezę H 0 : μ = μ 0 przeciwko jednej z następujących hipotez alternatywnych H 1 : μ < μ 0, H 2 : μ > μ 0, H 3 : μ = μ 0.

26 Model 1. (cd.) Jako statystyki testowej użyjemy Z = X n μ 0 n, σ która, gdy hipoteza H 0 jest prawdziwa, ma standardowy rozkład normalny N(0, 1).

27 Gęstość standardowego rozkładu normalnego.

28 Niech z p będzie kwantylem rzędu p rozkładu N(0, 1). Typowe kwantyle standardowego rozkładu normalnego.

29 Niech z p będzie kwantylem rzędu p rozkładu N(0, 1). Typowe kwantyle standardowego rozkładu normalnego.

30 Na poziomie istotności α zbiory krytyczne testów dla poszczególnych alternatyw mają odpowiednio postać: 1) C = (, z 1 α ] dla alternatywy H 1 2) C = [z 1 α, ) dla alternatywy H 2 3) C = (, z 1 α/2 ] [z 1 α/2, ) dla alternatywy H 3

33 PRZYKŁAD 1. Przyjmując, że wynik pomiaru nieznanej rezystancji μ opornika jest zmienną losową o rozkładzie N(μ, σ 2 ), należy przetestować na poziomie istotności α = 0.05 hipotezę H : μ = 500 mω przeciw alternatywie K : μ = 500 mω Wykonano n = 10 pomiarów przyrządem pomiarowym, którego odchylenie standardowe (błędu pomiaru jest znane i wynosi 4mΩ. Otrzymano następujące wyniki: 506, 502, 498, 501, 503, 504, 498, 503, 501, 504 [mω].

36 PRZYKŁAD 1. (cd.) W wyniku obliczeń otrzymujemy X n = 502 oraz T = W tablicach statystycznych znajdujemy wartość odpowiedniego kwantyla dla dwustronnej alternatywy i poziomu istotności α = 0, 05. Wynosi ona z(0.975) = A zatem T C = (, 1.96] [1.96, ). Nie ma podstaw do odrzucenia hipotezy H.

37 PRZYKŁAD 2. W celu sprawdzenia jakości produkcji pewnego odczynnika wykonano n = 30 pomiarów losowo wybranych próbek mierząc zawartość pewnego składnika, którego zawartość zgodnie z normami produkcyjnymi powinna wynosić 8%, z odchyleniem standardowym σ = 2. Średnia wartość zawartości tego składnika w 30 próbkach wyniosła 7, 4. Przyjmując, że zawartość badanego składnika ma rozkład normalny, należy przetestować, na poziomie istotności α = 0.05, hipotezę H 0 : μ = 8 przeciw alternatywie H 1 : μ = 8.

40 PRZYKŁAD 2. (cd) W wyniku obliczeń otrzymujemy z = X n μ σ n = 7, 4 8 0, 36. W tablicach statystycznych znajdujemy wartość kwantyla z(0.975) = A zatem z C = (, 1.96] [1.96, ). Nie ma podstaw do odrzucenia hipotezy H.

41 Test na poziomie istotności α = 0, 05, hipotezy H 0 : μ = 8 przy dwustronnej hipotezie alternatywnej H 1 : μ = 8.

42 Test na poziomie istotności α = 0, 01, hipotezy H 0 : μ = 8 przy dwustronnej hipotezie alternatywnej H 1 : μ = 8.

43 Test na poziomie istotności α = 0, 05, hipotezy H 0 : μ = 8 przy jednostronnej hipotezie alternatywnej H 1 : μ > 8.

44 Test na poziomie istotności α = 0, 01, hipotezy H 0 : μ = 8 przy jednostronnej hipotezie alternatywnej H 1 : μ > 8.

45 Test na poziomie istotności α = 0, 05, hipotezy H 0 : μ = 8 przy jednostronnej hipotezie alternatywnej H 1 : μ < 8.

46 Test na poziomie istotności α = 0, 01, hipotezy H 0 : μ = 8 przy jednostronnej hipotezie alternatywnej H 1 ; μ < 8.

47 Tabela decyzji dla testowani hipotezy hipotezy H 0 : μ = 8 przy różnych poziomach istotności α oraz różnych alternatywach.

48

49 Model 2. Testowanie średniej gdy wariancja jest nieznana. Niech X 1,..., X n będzie próbą statystyczną z rozkładu N(μ, σ 2 ), przy czym zarówno μ jak i σ 2 są nieznane. Testujemy hipotezę H 0 : μ = μ 0 przeciwko jednej z następujących hipotez alternatywnych H 1 : μ < μ 0, H 2 : μ > μ 0, H 3 : μ = μ 0.

52 Model 2. (cd.) Ponieważ wariancja jest nieznana wiec przy konstrukcji statystyki testowej użyjemy nieobciążonego estymatora wariancji S 2 S 2 n = 1 n 1 Jako statystyki testowej użyjemy n (X i X n ) 2. i=1 T = X n μ 0 S n n, która, gdy hipoteza H 0 jest prawdziwa, ma rozkład t Studenta o n 1 stopniach swobody.

53 Niech t p (n) będzie kwantylem rzędu p rozkładu t Studenta o n stopniach swobody. Kwantyle rozkładu t-studenta z 9 stopniami swobody.

56 Na poziomie istotności α zbiory krytyczne testów dla poszczególnych alternatyw mają odpowiednio postać: 1) C = (, t 1 α (n 1)] dla alternatywy H 1 2) C = [t 1 α (n 1), ) dla alternatywy H 2 3) C = (, t 1 α/2 (n 1)] [t 1 α/2 (n 1), ) dla H 3

57 PRZYKŁAD 3. Można przyjąć, że wzrost osobników danej płci w populacji ma rozkład normalny N(μ, σ 2 ). Z przeprowadzonych w przeszłości badań wiadomo, że średnia dla chłopców w wieku 14 lat wynosiła 154 cm. Przypuszczamy, że w wyniku polepszenia warunków życia nastąpiło zwiększenie średniego wzrostu. Na poziomie istotności α = 0.05 zweryfikujemy hipotezę Przeciw alternatywie H : μ = 154 cm K : μ > 154 cm.

58 PRZYKŁAD 3. (cd.) Pobrano próbę losową o liczności n = 26, na podstawie której otrzymano X n = 162 cm oraz S n = 14 cm. Wartość obliczona na podstawie wyników próby T = Ponieważ t 0.95 (25) = 1.708, więc zbiór krytyczny ma postać C = [1.708, ). Hipotezę H odrzucamy, gdyż T C.

59 Przy wielokrotnym stosowaniu opisanego testu, częstość popełniania błędu pierwszego rodzaju będzie rzędu 0.05, natomiast częstość popełniania błędu drugiego rodzaju zależy od tego, który parametr μ z hipotezy alternatywnej K opisuje rozkład badanej cechy.

60 Model 3. Porównanie średnich w dwóch rozkładach normalnych. Niech X 1,..., X n będzie próbą statystyczną z rozkładu normalnego N(μ 1, σ1 2), a Y 1,..., Y m będzie próbą statystyczną z rozkładu normalnego N(μ 2, σ2 2). Zakładamy, że σ2 1 oraz σ2 2 są nieznane, ale są sobie równe σ1 2 = σ2. 2 Testujemy hipotezę H 0 : μ 1 = μ 2 przeciwko jednej z następujących hipotez alternatywnych

61 Model 3. (cd.) H 1 : μ 1 < μ 2, H 2 : μ 1 > μ 2, H 3 : μ 1 = μ 2.

62 Ponieważ wariancja jest nieznana wiec przy konstrukcji statystyki testowej użyjemy nieobciążonego estymatora wariancji S 2 S 2 X = 1 n 1 n (X i X n ) 2. i=1

63 Jako statystyki testowej użyjemy T = X n Y m nm (n + m 2), nsx 2 + ms Y 2 n + m gdzie X n i Y m oznaczają odpowiednie średnie próbkowe, a S 2 X i S 2 Y oznaczają wariancje próbkowe S 2 X = 1 n 1 S 2 Y = 1 m 1 n (X i X n ) 2, i=1 m (Y i Y m ) 2. Statystyka T ma rozkład t Studenta o (n + m 2) stopniach swobody, gdy hipoteza H 0 jest prawdziwa. i=1

64 Niech t p (n) będzie kwantylem rzędu p rozkładu t Studenta o n stopniach swobody. Na poziomie istotności α zbiory krytyczne testów dla poszczególnych alternatyw mają odpowiednio postać: 1) C = (, t 1 α (n + m 2)] dla alternatywy H 1 2) C = (t 1 α (n + m 2), ] dla alternatywy H 2 3) C = (, t 1 α/2 (n + m 2)] [t 1 α/2 (n + m 2), ) dla alternatywy H 3

65 Model 3 cd. Porównanie wartości oczekiwanych zależnych par obserwacji. Niech (X 1, Y 1 ), (X 2, Y 2 ),..., (X n, Y n ) będzie próbą losową złożona z par wzajemnie niezależnych zmiennych losowych które w parze mogą być zależne. tego typu obserwacje pojawiają się w sposób naturalny w sytuacji dwukrotnego mierzenia wartości pewnej cech tego samego obiektu.

66 Model 3 (zależne pary obserwacji). Oznaczmy przez D i = X i Y i, i przyjmijmy założenie, że (D 1,..., D n ) tworzą próbę niezależnych zmiennych losowych o rozkładzie normalnym N(μ D, σ 2 D ) z nieznaną średnia μ D. Hipoteza zerowa przyjmuje postać H 0 : μ D = 0 natomiast hipotezy alternatywne postać H 1 : μ D < 0, H 2 : μ D > 0, H 3 : μ D = 0.

67 Statystyka testowa gdzie T = D S D / n, a D = 1 n n (X i Y i ) i=1 S D = 1 n 1 n ( (Xi Y i ) D ) 2, i=1 ma rozkład t Studenta z (n 1) stopniami swobody.

68 W ten sposób zadanie konstrukcji testu dla porównania wartości średnich par obserwacji sprowadza się do analogicznego zadania dla pojedynczej próby i pojedynczej wartości średniej (wartości średniej różnic D i przy nieznajomości ich odchylenia standardowego).

69 Przykład Jednym z testów, którym rozpoczęto analizę nowego leku na nadciśnienie tętnicze było zaaplikowanie go próbie 22 chorych pacjentów, u których ciśnienie skurczowe było bliskie wartości 144 mmhg. Górna granica normy tego ciśnienia wynosi 140 mmhg. Chcemy sprawdzić czy zastosowanie terapii nowym lekiem daje obniżenie ciśnienia o 5 mmhg. Takie postępowanie testowe wynika ze sposobu prowadzenia terapii w leczeniu nadciśnienia - przy zadanej wartości ciśnienia, ustalona dawka leku powinna spowodować jego obniżenie mniej więcej do górnej granicy normy.

72 Przykład cd. Każdemu pacjentowi zmierzono ciśnienie skurczowe przed rozpoczęciem terapii oraz po jej zakończeniu. W ten sposób dla i tego pacjenta i = 1, 2,..., 22 dysponowano para wyników (x i, y i ) przed i po terapii. Naszym celem jest poddanie testowi hipotezy H 0 : μ D = 5 przy hipotezie alternatywnej H 0 : μ D = 5.

75 Interesuje nas hipoteza zerowa, która jest modyfikacją hipotezy H 0 : μ D = 0. Aby otrzymać test dla naszego przypadku trzeba zmodyfikować statystykę testową i rozważać statystykę T = D S D n, W naszym przypadku d 0 = 5. T = D d 0 S D / n.

76 Dla próby 22 pacjentów otrzymano średnią wartość różnicy d = 5, 3 oraz d D = 0, 4. Przy takich wartościach statystyka T przyjmuje wartość t = 3, 518. Dla testu z dwustronna alternatywą na poziomie istotności α = 0, 01 poziom krytyczny dla rozkładu t Studenta z 21 stopniami swobody wynosi 2, Decyzja: hipotezę zerową należy zatem odrzucić. Terapia nowym lekiem nie spełnia nałożonych na nią wymagań.

77 Literatura. Lektura po wykładzie. J. Koronacki i J. Mielniczuk, STATYSTYKA dla studentów kierunków technicznych i przyrodniczych. WNT U przejmie proszę zapoznać się z materiałem zawartym od strony 213 do strony 229.