Jednoczynnikowa analiza wariancji. Wnioskowanie dla jednoczynnikowej ANOV-y. Porównywanie poszczególnych średnich

Transkrypt

1 (Wykład 13) Jednoczynnikowa analiza wariancji Wnioskowanie dla jednoczynnikowej ANOV-y Format danych Hipotezy i model ANOVA Tabela ANOVA i test F Porównywanie poszczególnych średnich

2 Jednoczynnikowa ANOVA Interesują nas są wartości zmiennej ilościowej, np. poziomu cholesterolu. Porównujemy zmienność w kilku grupach z zmiennością pomiędzy grupami, aby ocenić, czy grupy różnią się znacznie. To jest Analiza Variancji = ANOVA Grupy będą etykietowane jedną zmienną jakościową, np. płcią: jednoczynnikowa ANOVA.

3 Typowe dane Czas gojenia rany po różnych zabiegach. Płace różnych grup etnicznych w firmie. Żywotność różnych marek opon. Jeśli zmienna kategoryczna ma tylko 2 wartości, ANOVA jest równoważna dwustronnemu testowi t. ANOVA pozwala jednak na 3 lub więcej grup.

4 Przypomnijmy: dwie populacje, nieznane wariancje populacji H 0 : μ 1 = μ 2 przeciwko H a : μ 1 μ 2 σ 1, σ 2 nieznane. Statystyka t: Jeżeli n 1 =n 2 =n, to t 2 = n(x 1 x 2 ) 2 s 1 2 +s 1 2. Uogólnimy ten iloraz. t x x 1 2 s n s n

5 Średnia redukcja cholesterolu w trzech grupach terapeutycznych.

6 Porównaj zmienność wewnątrz i pomiędzy grupami Badanie graficzne: jednoczesne wykresy pudełkowe wiele histogramów Istotność różnic między grupami zależy od: różnicy średnich odchylenia standardowego każdej grupy rozmiarów prób

7 Wykresy pudełkowe dla grup. Czy średnie są znacząco różne??

8 Zredukowana zmienność w każdej grupie. Różnice w średnich są bardziej wiarygodne.

9 Hypotezy w ANOV-ie ANOVA testuje następujące hipotezy: H 0 : Średnie wszystkich grup są równe. H a : Nie wszystkie środki są równe. Nie mówi, jak i które średnie się różnią. Kontroluje "wielokrotne porównania". "Grupa" oznacza "podpopulację". Dla danych "grupa" oznacza "podpróbę".

10 n = liczba osób łącznie I = liczba grup x Notacja dla ANOV-y = (wielka) średnia dla wszystkich danych i-ta grupa ma: n i = # jednostek (w grupie i) x ij = wartość dla jednostki j (w grupie i) x j = średnia próbkowa (dla grupy i) s i = próbkowe odchylenie standardowe (dla grupy i)

11 Model ANOV-y x ij i ij, where ij independen t with distributi on N(0, ) µ i oznacza (nieznane) średnie populacji dla grupy i σ jest (nieznanym) odchyleniem standardowym, o którym zakładamy, że jest takie samo dla wszystkich grup.

12 Szacowanie parametrów populacji: Reguła do badania odchyleń standardowych dla ANOV-y: Jeśli największe s jest mniejsze niż dwukrotność najmniejszego s, to możemy bezpiecznie zakładać, że σ jest stała wśród grup (i używać ANOV-y). Łączone odchylenie standardowe s s, where s p 2 p ( n 1) s... ( n 1) s I I p ( n1 1)... ( ni 1)

13 Jednoczynnikowa ANOV-a. Hipotezy: H 0 : 1 = 2 = 3 = = I H a : Nie wszystkie średnie są równe.

14 SD rozkładów są takie same, różnica jest tylko w średnich.

15 Przykład: Przeanalizujemy 3 grupy dzieci w wieku przedszkolnym przed i po zastosowaniu różnych technik nauczania.

16 Wstępne pytanie naukowe: Czy grupy były podobne pod względem umiejętności czytania przed instrukcją? Symbolicznie: Czy średnie 1, 2, 3 są równe? H 0 : 1 = 2 = 3 H a : Nie wszystkie średnie są równe.

17 Boxploty czytania ze zrozumieniem "przed rozpoczęciem nauczania.

18 Normalny wykres kwantylowy dla grupy Basal przed rozpoczęciem nauczania

19 Normalny wykres kwantylowy dla grupy DRTA przed rozpoczęciem nauczania

20 Normalny wykres kwantylowy dla grupy Strat przed rozpoczęciem nauczania

21 Podsumowanie dla każdej grupy. Czy grupy istotnie różnią się od siebie?

22 Dlaczego nie skorzystać z wielu testów t? Wielokrotne porównania (tutaj 3) między wszystkimi parami grup zwiększają prawdopodobieństwo fałszywego odrzucenia hipotezy zerowej. Szacowanie odchylenia standardowego (σ): technika ANOVA wykorzystuje wszystkie informacje zawarte w danych i zwykle zapewnia wyższą precyzję. Użyjemy ANOV-y i testu F. F=Fisher.

23 ANOVA table. Three categories of calculations: within, between, total. Three things to calculate: SS, df, MS. We will use computer output (homework and exams). Zmienność DF Stopnie swobody SS Sumy kwadratów MS Średnie kwadraty Pomiędzy Grupami Wewnątrz grup (tzw. Error) I-1 z danych SSG/DFG n-i z danych SSE/DFE Łącznie (Total) n-1 z danych SST/DFT

24 Wzory (nie zapamiętuj): SSG n ( x x) groups SSE ( n 1) s groups SST ( x x) obs ij i i i 2 2 i 2 Note: SST=SSG+SSE, DFT=DFG+DFE.

25 Wyjście ANOVA w SAS

26 Statystyka testowa: F-test F s = MSG/MSE. Przy H 0, F s ma rozkład F z DFG, DFE. W Tabeli E znajdujemy P-wartości dla F s Degrees of freedom in the numerator" = DFG. Degrees of freedom in the denominator" = DFE. Duże wartości F s odrzucają H 0.

27

28 Krzywa gęstości rozkładu F. p F s

29

30 Ćwiczenie: Sprawdź wynik ANOV-y i P-wartość testu F.

31

32 Wniosek: Badane grupy uczniów szkół podstawowych nie różniły się istotnie (P = 0,33) w wynikach czytania przed instruktażem. Oznacza to również, że późniejsze różnice wynikają z zastosowanych metod nauczania. Ważne: że SD dla grup były podobne.

33 Współczynnik determinacji: R 2 =SSG/SST Pokazuje, jaka część całkowitej zmienności wynika z różnic między grupami. Tutaj tylko 3%. Na wyjściu SAS: R-square Podobna rola jak z r 2 w regresji liniowej.

34 Pytanie naukowe: Po miesiącach nauki według trzech różnych metod, w każdej klasie podano inny test czytania. Wynik będzie oznaczony jako COMP. Czy metody różnią się skutecznością? (= Czy populacje różnią się po instruktażu?) Hipotezy:

35 Podsumowanie wyników czytania po instruktażu:

36

37 Wyjście SAS dla zmiennej COMP:

38 Wniosek:

39 Uwagi: Czy możemy bardziej konkretnie sformułować wnioski? DRTA i Strat to nowe methody (o wspólnej filozofii). Basal to metoda standardowa.

40 Kontrasty: Rozważmy: H 0 : ½( D + S )= B H a : ½( D + S )> B i dalszy problem: H 0 : D = S H a : D S Uwaga: Kontrasty powinny wyrażać pytanie z góry przyjęte w badaniu naukowym.

41 Contrasts: Contrast: a, where a. Sample contrast: c a x. SE s a / n 2 c p i i i i i i i 2 0 Dla testowania H 0 : ψ = 0, użyj t-testu t=c/se c z df=dfe. H A może być jednostronna lub dwustronna. CI: c±t * SE c

42 Przykład: Czy nowe metody są lepsze niż tradycyjna? Znajdź PU dla średniej poprawy.

43 Przykłąd: Która z nowych metod jest lepsza? Znajdź PU dla różnicy średnich.

44 Wyjście SAS-a The GLM Procedure Dependent Variable: COMP Contrast DF Contrast SS Mean Square F Value Pr > F Compare 1st with 2nd & 3rd group Compare 2nd with 3rd group

45 Uwagi Uzasadnij, że F(1,df)=(t df ) 2. Dla dwóch próbek o równej wielkości n, F s = n(x 1 x ) 2 +n(x 2 x ) 2 [(n 1)s 1 2 +(n 1)s1 2 ]: 2n 2 =... Użyj wyjścia SAS, aby sprawdzić wcześniej obliczone testy t dla kontrastów. Tutaj df = DFE = 63.

46 Wielokrotne porównań: Gdy H 0 jest odrzucone, chcemy wiedzieć, które pary średnich się różnią. Podczas gdy (z góry przyjęte) kontrasty mogą być badane niezależnie od H 0, wielokrotne porównania są wykonywane tylko po odrzuceniu H 0. x x t t t 1 1 sp n n i j ** ij, if ij,declare means i, j different i j

47 Wybór t ** dla wielokrotnych porównań Korekta Bonferroniego: aby szansa na fałszywe odrzucenie któregokolwiek z testów k była nie większa niż (α = 0.05), użyj use t ** =t * (DFE, α/k). Minimalna znacząca różnica (MSD) - podobnie jak próg odrzucenia. MSD ** 1 1 t sp n n i j

48 Równoczesne przedziały ufności: 1 1 CI for is x x t ** s i j i j p n n i j Interpretacja (dla pojedynczego porównania albo dla wszystkich różnic) zależy od wyboru t **.

49

50

51 Założenie, że σ jest stała, można zweryfikować za pomocą normalnego wykresu kwantylowego:

52 Dane wyjściowe programu Excel (dla innego problemu):

53

54