Analiza wariancji dr Janusz Górczyński
Wprowadzenie Powiedzmy, że badamy pewną populację π, w której cecha Y ma rozkład N o średniej m i odchyleniu standardowym σ. Powiedzmy dalej, że istnieje pewien czynnik A wpływający na wartości cechy Y w taki sposób, że może wystąpić zróżnicowanie populacji π na szereg podpopulacji π i odpowiadających poszczególnym poziom czynnika A
Cecha Y jest N(m; σ e ) Jeżeli czynnik A nie różnicuje populacji π na podpopulacje, to rozkład tej cechy reprezentowany jest przez jedną funkcję gęstości o parametrach m oraz σ. m 3
Cecha Y jest N(m; σ e ) Jeżeli czynnik A różnicuje populację π na a (a a) podpopulacji π i (i=1,,, a ), to rozkład tej cechy reprezentowany jest przez a funkcji gęstości (o takim samym kształcie, a różnej średniej). m 1 m m m a 4
Cecha Y jest N(m; σ e ) Jeżeli czynnik A różnicuje populację π na podpopulacje π i, to wykresy ich funkcji gęstości położone są w różnej odległości od hipotetycznej, wspólnej funkcji gęstości. m 1 m m m a 5
Problem: czy czynnik A różnicuje populację π? Miarą zróżnicowania podpopulacji może być odległość ich średnich od średniej ogólnej m. Tę odległość będziemy nazywać efektem wpływu badanego czynnika. a 1 = m 1 - m a a = m a - m m 1 m m m a a = m - m 6
Problem: czy czynnik A różnicuje populację π? (cd.) Ogólnie efekt wpływu i-tego poziomu czynnika A można zapisać jako różnicę między średnią generalną dla tej i-tej podpopulacji π i ~N(m i ; σ e ) a średnią generalną w populacji π ~ N(m; σ e ) : a i = m i m dla i=1,,..., a 7
Problem: czy czynnik A różnicuje populację π? (cd.) Jeżeli czynnik A nie różnicuje populacji na podpopulacje, to wszystkie jego efekty są zerowe, czyli: a i = m i m = 0 dla każdego i, tym samym m i = m. Mówimy wtedy, że wpływ czynnika A na wartości cechy Y jest nieistotny statystycznie. 8
Problem: czy czynnik A różnicuje populację π? (cd.) Jeżeli jednak warunek a i = 0 nie będzie spełniony dla każdego i = 1,,..., a, to tym samym czynnik A różnicuje populację π na co najmniej podpopulacje. Mówimy wtedy, że wpływ czynnika A na wartości cechy Y jest istotny statystycznie. 9
Czym jest analiza wariancji? Jest metodą statystyczną pozwalającą na podstawie wyników zaplanowanego eksperymentu zbadanie, czy czynnik A wpływa istotnie na wartości analizowanej cechy. Metodę analizy wariancji na potrzeby doświadczeń rolniczych wprowadził R. Fisher, a podstawowym testem stosowanym w tej metodzie jest test F Fishera-Snedecora. 10
Podstawowe pojęcia Czynnik badany, np. model samochodu, model automatu produkcyjnego, rodzaj reklamy, dodatek owoców do jogurtu itp. Poziom czynnika badanego, np. dla takiego czynnika jak model samochodu będzie to konkretny model (Lanos, Peugeot 306, Ford Mondeo itd.) 11
Podstawowe pojęcia (cd.) Czynnik badany może mieć charakter czynnika jakościowego, np. model samochodu, rodzaj reklamy. Czynnik badany może mieć także charakter czynnika ilościowego, np. ilość owoców dodawanych do jogurtu 1
Podstawowe pojęcia (cd.) Eksperyment specjalnie zaprojektowane działanie zmierzające do uzyskania prób losowych o zadanych liczebnościach z poszczególnych poziomów czynnika badanego. Wyniki uzyskane w takim eksperymencie możemy oznaczyć jako y ij 13
Podstawowe pojęcia (cd.) Dowolny wynik uzyskany w takim eksperymencie można zapisać jako sumę trzech elementów: y = m + a + ij i e ij Wzór ten przedstawia tzw. model liniowy jednoczynnikowej analizy wariancji. 14
Podstawowe pojęcia (cd.) Model linowy y ij = m + a i + e ij pozwala na rozdzielenie ogólnej sumy kwadratów odchyleń na dwa składniki: vart = vara + vare Analogicznie rozdzielamy liczby stopni swobody: v T = v A + v E 15
Podstawowe pojęcia (cd.) Jak wiemy iloraz sumy kwadratów odchyleń przez odpowiadającą mu liczbę stopni swobody jest średnim kwadratem odchyleń. S T = vart var A S A = SE v v T A = var Z równości sum kwadratów i liczb stopni swobody nie wynika równość średnich kwadratów, czyli: T A S S + S E v E E 16
Hipoteza zerowa Model liniowy analizy wariancji pozwala na weryfikację hipotezy zerowej o braku wpływu czynnika badanego na wartości analizowanej cechy. H : a 0 H : 0 = 0 i i 1 a i i 17
Hipoteza zerowa (cd.) Przy prawdziwości hipotezy zerowej statystyka (funkcja wyników próby) postaci: F = emp. S S A E ma rozkład F z liczbami stopni swobody v A i v E 18
Wnioskowanie F > F, Jeżeli emp. α, v A v E to hipotezę zerową o braku wpływu czynnika badanego odrzucamy. Powiemy, że czynnik badany jest istotny statystycznie. Jeżeli powyższy warunek nie jest spełniony, to nie mamy podstaw do odrzucenia hipotezy zerowej. Powiemy, że czynnik badany jest nieistotny statystycznie. 19
Obliczenia analizy wariancji Na podstawie danych eksperymentalnych budujemy tabelę analizy wariancji. Zmienność st. sw. varians F Czynnika v A vara Błędu v E vare Całkowita v T vart S S A S E F = emp. S S A E 0
Obliczenia analizy wariancji Dalsze wzory analizy wariancji: VarT VarA VarE a n = i i= 1 j= 1 a = i=1 y i = VarT y P P y y ij ij = a i= 1 n i j= 1 yi. P y y VarA i. = n i j= 1 ij A S = SS v A A E S = SS v E E F = A S S A E 1
Wnioskowanie w analizie wariancji Przy prawdziwości hipotezy statystyka F = A S S A E 0 : a1 = a = = aa = ma rozkład F-Fishera z liczbami stopni swobody v A i v E. Jeżeli więc FA > F α, v A, ve, to H 0 odrzucamy jako zbyt mało prawdopodobną. Merytorycznie formułujemy wniosek, że czynnik klasyfikacyjny istotnie wpływa na wartości badanej cechy. H 0
Wnioskowanie w analizie wariancji (cd.) Oznacza to jednocześnie, że co najmniej jedna średnia grupowa (obiektowa) różni się od pozostałych. W dalszej części zajmiemy się sposobami szczegółowego porównania średnich grupowych w takiej sytuacji. W sytuacji, gdy FA F α, v (lub krytyczny poziom A, ve istotności jest większy od przyjętego α) nie mamy podstaw do odrzucenia hipotezy zerowej i tym samym badanie statystyczne wpływu czynnika klasyfikacyjnego jest zakończone. Oznacza to, że ewentualne różnice między średnimi grupowymi (w próbie) mają tylko charakter losowy. 3
Porównania szczegółowe W przypadku odrzucenia hipotezy zerowej wiemy, że co najmniej jedna średnia grupowa różni się od pozostałych. Problemem pozostaje rozdzielenieśrednich na tzw. grupy jednorodne. Pod pojęciem grupy jednorodnej będziemy rozumieć taki zestaw średnich w populacjach, w którym dla każdej pary średnich próbkowych zachodzi związek: y y NIR i i' 4
Porównania szczegółowe (cd.) Najmniejsza istotna różnica może być skonstruowana z użyciem różnych statystyk (najczęściej): t-studenta (LSD) t studentyzowanego rozstępu (NIR Tukey a -HSD, Newmana-Keulsa) F (NIR Scheffego) Ogólnie NIR będziemy wyznaczać wg wzoru: NIR = Kα S r gdzie K α jest wartością tablicową odpowiedniej statystyki, a S r błędem różnicy średnich. 5
Porównania szczegółowe (cd.) W sytuacji, gdy w próbie losowej w każdej podgrupie mamy taką samą liczbę obserwacji (powiedzmy równą n) błąd różnicy średnich wyznaczamy z wzoru: W tych przypadkach, gdy liczba obserwacji w podgrupach jest różna, można skorzystać z wzoru: gdzie 6 n S S E r = 0 n S S E r = 1 1 1 1 0 = = = = a n n n i i n i i n n n i i
Przykład liczbowy W celu porównania oceny ogólnej 5 wybranych produktów spożywczych zaplanowano odpowiedni eksperyment, w wyniku którego uzyskano poniższe wyniki: P1 P P3 P4 P5 1 8 8 7 7 7 7 9 7 9 6 3 7 8 8 7 7 4 8 9 7 8 6 Dane powyższe zostaną opracowane zgodnie z modelem liniowym jednoczynnikowej analizy wariancji: yij = m + ai + eij 7
Przykład liczbowy (cd.) Obliczamy odpowiednie sumy iśrednie: P1 P P3 P4 P5 1 8 8 7 7 7 37 7 9 7 9 6 38 3 7 8 8 7 7 37 4 8 9 7 8 6 38 Sumy 30 34 9 31 6 150 średnie 7,50 8,50 7,5 7,75 6,50 7,50 Obliczamy dalej: Poprawka = 150*7,50 = 115 vart T = (8 + 7 +... + 6 ) - P = 1140-115 = 15 vara A = (30*7,50 +... + 6*6,50) - P = 1133,50-115 = 8,5 8
Przykład liczbowy (cd.) Pozostałe obliczenia zestawiamy już w tabeli analizy wariancji. Zmienność St. sw. var. S F emp. F 0.05 Produkt 4 8,5,15 4,904* 3,06 Błąd 15 6,5 0,43 Całkowita 19 15 Wnioskowanie: Ponieważ F emp. = 4,904 > F0.05,4, 15 = 3,06 hipotezę o braku zróżnicowania między produktami odrzucamy. Oznacza to jednocześnie, że istnieją co najmniej grupy jednorodne. 9
Przykład liczbowy, szczegółowe porównania Obliczamy S r = 0,43 4 = 0,4654 i dalej NIR Tukey a NIR =,88 0,4654 = 1,34 Poniżej mamy uporządkowaneśrednie dla produktów i ich podział na grupy jednorodne. P 8,50 a P4 7,75 0,75 ab P1 7,50 1,00 0,5 ab P3 7,5 1,5 0,50 ab P5 6,50,00 1,5 b 30