Porównywanie wielowymiarowych wektorów warto±ci ±rednic

Transkrypt

1 Porównywanie wielowymiarowych wektorów warto±ci ±rednich Politechnika Gda«ska 20 marca 2014

2 Cel prezentacji Niezb dny wst p teoretyczny Cel prezentacji W naszej prezentacji przedstawimy zagadnienia zwi zane z porównywaniem ró»nych wektorów warto±ci ±rednich. Przeanalizujemy porównywanie par wektorów z ró»nych populacji oraz procedur powtórzonych pomiarów dla wektorów z tej samej populacji, przedstawimy metod porównywania efektów ró»nych rodzajów zabiegu, a tak»e metod.

3 Cel prezentacji Niezb dny wst p teoretyczny Niezb dny wst p teoretyczny Statystyka T 2 Hotellinga Jest deniowana jako: T 2 = n(x µ 0 ) S 1 (X µ 0 ) gdzie X = 1 n n j=1 X j, S = 1 n 1 j=1 µ 10 µ 20 n (X j X )(X j X ), µ 0 =. µ p0

4 Cel prezentacji Niezb dny wst p teoretyczny Rozkªad statystyki T 2 : T 2 (n 1)p n p F p,n p gdzie p - ilo± zmiennych, n - liczba obserwacji, F p,n p - zmienna losowa o rozkªadzie F-Snedecora z p i n p stopniami swobody. Przeprowadzenie wielowymiarowego t-testu polega na zwerykowaniu hipotezy zerowej: H 0 : µ = µ 0 na poziomie istotno±ci α. Hipotez zerow odrzucamy, gdy zachodzi nierówno± : T 2 = n(x µ 0 ) S 1 (X µ 0 ) > (n 1)p n p F p,n p(α)

5 Cel prezentacji Niezb dny wst p teoretyczny Obszary ufno±ci Obszar R(X) nazywamy 100(1 α)% obszarem ufno±ci, je»eli zachodzi: P[θ R(X )] = 1 α W naszym przypadku, dla populacji pochodz cej z wielowymiarowego rozkªadu normalnego równanie przyjmuje posta : P[n(X µ 0 ) S 1 (X µ 0 ) (n 1)p n p F p,n p(α)] = 1 α

6 Cel prezentacji Niezb dny wst p teoretyczny Dla konkretnej próby obliczamy x oraz S i wówczas 100(1 α)% elips obszaru ufno±ci wyznaczaj wszystkie µ speªniaj ce n(x µ 0 ) S 1 (x µ 0 ) (n 1)p n p F p,n p(α) Jej ±rodkiem jest x, a osie i ich dªugo±ci wyznaczamy za pomoc wektorów i warto±ci wªasnych macierzy S. O± wielka i maªa le» wzdªu» wektorów wªasnych e oraz 1 e, natomiast ich dªugo±ci 2 wynosz odpowiednio: λi p(n 1) n(n p) F p,n p(α) gdzie λ i jest odpowiedni warto±ci wªasn macierzy S.

7 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Cz sto prowadzimy pomiary na dwóch zbiorach, a nast pnie chcemy dowiedzie si, czy istniej istotne statystyczne ró»nice pomi dzy uzyskanymi wynikami. Na przykªad: skuteczno± dziaªania nowego leku lub kampanii reklamowej mierzymy porównuj c pomiary sprzed zabiegu (lekiem, reklam ) z uzyskanymi po zabiegu. Równie dobrze mo»na stosowa dwa lub wi cej zabiegi na t sam b d¹ podobne jednostki i sprawdza, które z nich jest najbardziej efektywne. Rozs dnym podej±ciem wydaje si stosowanie dwóch zabiegów, lub zabiegu i jego braku (placebo), na t sam b d¹ identyczn jednostk. Sparowane odpowiedzi analizujemy poprzez ró»nice mi dzy nimi, co pozwala unikn wariancji pomi dzy jednostkami.

8 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 W pojedynczym przypadku niech X j 1 oznacza pomiar j tej jednostki po zabiegu 1, a X j 2 pomiar j tej jednostki po zabiegu 2. Rozpatrujemy n ró»nic D j = X j 1 X j 2, j = 1, 2,..., n, które powinny odzwierciedla tylko wpªyw zabiegu. Zakªadamy,»e ró»nice D j s niezale»nymi zmiennymi losowymi o rozkªadzie normalnym N(δ, σd 2 ). Zmienna gdzie t = D δ s d / n D = 1 n n j=1 D j i s 2 d = 1 n 1 n (D j D) 2 j=1 ma rozkªad t-studenta z n-1 stopniami swobody.

9 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Przeprowadzamy t-test na poziomie istotno±ci α: H 0 : δ = 0(zabieg nie przynosi efektu) przeciwkoh 1 : δ 0. Porównujemy warto± t z α/2 górnym kwantylem rozkªadu t-studenta z n 1 stopniami swobody. Przedziaª ufno±ci dla ±redniej ró»nicy δ jest dany przez nierówno±ci: d t n 1 (α/2) s d n δ d + t n 1 (α/2) s d n

10 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Dla procedury porównywania wielowymiarowych wektorów ±rednich wprowadzona jest dodatkowa notacja. Konieczne jest rozró»nienie pomi dzy p - zmiennymi, dwoma zabiegami i n - ilo±ci obserwacji. p pomiarów dla j tej jednostki oznaczamy jako: X 1j 1 = zmienna 1 po pierwszym zabiegu X 1j 2 = zmienna 2 po pierwszym zabiegu. X 1j 1 = zmienna p po pierwszym zabiegu... X 2j 1 = zmienna 1 po drugim zabiegu X 2j 2 = zmienna 2 po drugim zabiegu. X 2j 1 = zmienna p po drugim zabiegu

11 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Wówczas sparowane ró»nice oznaczamy D j 1 = X 1j 1 X 2j 1 D j 2 = X 1j 2 X 2j 2. D jp = X 1jp X 2jp Niech D j = [D j 1, D j 2,..., D jp ] i zaªó»my dla j = 1, 2,..., n,»e δ1 δ 2 E(D j = δ =. δ p oraz Cov(D j ) = Σ d

12 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Je»eli dodatkowo D 1, D 2,...D n s niezale»nymi wektorami z wielowymiarowego rozkªadu normalnego N p (δ, Σ d ), wówczas wnioskowanie o wektorze ±rednich ró»nic δ mo»e by oparte o statystyk T 2. Dokªadniej gdzie T 2 = n(d µ 0 ) S 1 (D µ 0 ) D = 1 n n j=1 D j, S d = 1 n 1 n (D j D)(D j D) j=1

13 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Wniosek Niech ró»nice D 1, D 2,...D n b d losow prób z populacji o rozkªadzie N p (δ, Σ d ). Wówczas T 2 = n(d µ 0 ) S 1 (D µ 0 ) ma rozkªad zmiennej losowej [(n 1)p/(n p)]f p,n p, niezale»nie od prawdziwych warto±ci δ oraz Σ d Je»eli n i n p s du»e to T 2 jest przybli»ana zmienn losow o rozkªadzie χ 2 p.

14 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Dla obserwowanych ró»nic d j = d j 1, d j 2,..., d jp, j = 1, 2,..., n, test na poziomie istotno±ci α, gdzie H 0 : δ = 0 dla populacji z N p (δ, Σ d ) odrzuca hipotez zerow, je±li T 2 = nd (n 1)p S 1 d d > (n p) F p,n p(α) gdzie F p,n p jest górnym α kwantylem rozkªadu F z p i n p stopniami swobody.

15 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Obszar ufno±ci i jednoczesne przedziaªy ufno±ci 100(1 α)% obszar ufno±ci dla δ skªada si z wszystkich δ speªniaj cych: (d δ) (n 1)p S 1 d (d δ) n(n p) F p,n p(α) Równie» 100(1 α)% jednoczesne przedziaªy ufno±ci dla pojedynczych warto±ci ±rednich δ i s dane przez: δ i : d i ± (n 1)p n p F p,n p(α) gdzie d i jest i tym elementem d oraz s di jest i tym elementem przek tnej macierzy S d. s 2 d i n

16 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Przykªad 1 Miejska oczyszczalnia w Wisconsin zobowi zanie jest do staªego monitorowania wód ±ciekowych. W trosce o poprawno± danych postanowiono porówna wyniki oddaj c próbki wody do dwóch laboratoriów - jednego stale badaj cego stan wód ±ciekowych (lab. nr 2, stanowe), drugiego nie uczestnicz cego w nich na co dzie«(lab. nr 1, komercyjne). Pobrano 11 próbek wody, z czego poªow ka»dej z nich wysªano do pierwszego, a poªow do drugiego laboratorium. Badanymi zmiennymi byªy: chemiczne zapotrzebowanie tlenu (BOD) oraz zawiesiny(ss). Dane przedstawia tabela.

17 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Czy analizy chemiczne obu laboratoriów s zgodne? Je»eli istniej ró»nice - jaka jest ich istota?

18 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Statystyk T 2 przy testowaniu H 0 : δ = [δ 1, δ 2 ] = [0, 0] konstruujemy za pomoc ró»nic par obserwacji: Obliczaj c ±rednie i macierz kowariancji z próby otrzymujemy warto± statystyki:

19 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 data scieki; input kom_bod kom_ss sta_bod sta_ss ; cards; ; run; proc iml; use scieki; read all var _num_ into X; X1=X[,1:2]; X2=X[,3:4]; D=X1-X2; n=nrow(d); p=ncol(d); jed=j(n,1,1); dbar=(1/n)*t(d)*jed; print dbar ; s=(1/(n-1))*t((d-jed*t(dbar)))*(d-jed*t(dbar)); print s; mu_0={0,0}; print mu_0; T2=n*T(dbar-mu_0)*inv(s)*(dbar-mu_0); print T2; quit;

20 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2

21 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Na poziomie istotno±ci α = 0, 05 znajdujemy [p(n 1)/(n p)]f p,n p (0.05) = 9.47 Poniewa» T 2 = 13.6 > 9.47, odrzucamy hipotez zerow i wnioskujemy,»e wyst puje niezerowa ±rednia ró»nic pomi dzy pomiarami z obydwu laboratoriów. Przegl daj c dane zauwa»amy,»e laboraturium nr 1 uzyskaªo w pomiarach mniejsze BOD i wy»sze SS, ni» drugie laboratorium.

22 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Obliczamy 95% jednoczesne przedziaªy ufno±ci dla ±rednich ró»nic δ 1 i δ 2 : (n 1)p δ 1 : d 1 ± n p F sd 2 1 p,n p(α) n = 9, 36 ± 199, 26 9, inaczej( 22, 46; 3, 74) δ 2 : 13, 27 ± 418, 61 9, 47 inaczej( 5, 71; 32, 25) 11 95% jednoczesne przedziaªy ufno±ci pokrywaj zero, a pomimo to hipoteza zerowa zostaªa odrzucona. Z czego to wynika?

23 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Punkt δ = 0 wypada poza 95% obszar ufno±ci i jest to spójne z wynikiem testu T 2. Hipoteza zerowa nie jest odrzucana, je±li ka»dy 95% jednoczesny przedziaª ufno±ci dla dowolnej kombinacji liniowej postaci a 1 δ 1 + a 2 δ 2 pokrywa punkt zerowy. W naszym przypadku dwa przedziaªy ufno±ci dla wyborów (a 1 = 1, a 2 = 0) oraz (a 1 = 0, a 2 = 1) pokrywaj zero, istnieje jednak kombinacja liniowa, dla której nie jest to speªnione.

24 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Jak si okazuje, ró»nica w wynikach pomiarów wynikaªa ze sposobu pobierania próbek wody ±ciekowej i nast pnego dzielenia jej. Po pobraniu próbki, wstrz sano ni, a nast pnie pierwsz poªow przelewano do naczynia przeznaczonego dla laboratorium 1, a pozostaª cz ± do naczynia dla laboratorium 2. To znacznie wpªyn ªo na wyniki bada«- u góry naczynia znajdowaªy si bowiem inne substancje ni» na dole (zawiesina opadaªa na dóª), przez co w praktyce laboratoria badaªy ró»ne próbki.

25 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Warto zauwa»y,»e je»eli mamy kontrol nad przydzielaniem prób do bada«, powinno to by robione losowo - na przykªad rozstrzygni te rzutem monet.

26 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Podsumowuj c dyskusje o parowym porównaniu przez zauwa»enie,»e d i S d i T 2 mog by obliczone z warto±ci x i S dla peªnej próby. Tutaj x to wektor ±rednich warto±ci o wymiarze 2px1 dla p zmiennych dla dwóch zabiegów dany przez x = [ x 11, x 12,..., x 1p, x 21, x 22,..., x 2p] natomiast S jest macierz wariancji i kowariancji z próby o wymiarze 2px2p

27 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Macierz S 11 zawiera wariancje i kowariancje z próby dla p zmiennych dla zabiegu 1. Podobnie S 22 zawiera wariancje i kowariancje przeliczon dla p zmiennych dla zabiegu 2. Wreszcie S 12 = S s macierzami kowariancji z próby obliczonymi z 21 obserwacji na parach zmiennych w zabiegowi 1 i zabiegowi 2.

28 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Deniuj c macierz mo»emy stwierdzi,»e d j = Cx j j=1,2,...n d = C x i S d = CSC T 2 = n x C (CSC ) 1 C x i nie jest konieczne obliczanie ró»nic d 1, d 2,..., d n. Z drugiej strony warto mimo to obliczy te ró»nice,»eby sprawdzi normalno± i zaªo»enia o losowo±ci próbki.

29 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Ka»dy wiersz c i macierzy C jest wektorem kontrastu, poniewa» suma elementów wiersza daje zero. Uwaga zwykle skupiona jest na wektorach kontrastu kiedy porównujemy zabiegi. Ka»dy wektor kontrastu jest prostopadªy do wektora 1 = [1, 1,..., 1] poniewa» c i 1 = 0.

30 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Test równo±ci efektów zabiegów w projekcie powtórzonych pomiarów Rozpatrujemy populacj z rozkªadu N q (µ, Σ). Niech C b dzie macierz kontrastu. α -poziom testu. H 0 = Cµ = 0 (równe ±rednie zabiegów) H 1 = Cµ 0. Odrzucamy H 0 je»eli T 2 = n(c x) (CSC ) 1 C x > (n 1)(q 1) (n q + 1) F q 1,n q+1(α) gdzie F q 1,n q+1(α) jest górnym α kwantylem rozkªadu F z q 1 i n q + 1 stopniami swobody. x i S to wektor ±rednich i macierz kowariancji z próby.

31 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Obszar ufno±ci dla wektorów kontrastu C µ jest wyznaczony przez zbiór wszystkich C µ speªniaj cych: n(c x Cµ) (CSC ) 1 (C x Cµ) (n 1)(q 1) F q 1,n q+1(α) n q + 1 Jednoczesne 100(1 α) przedziaªy ufno±ci dla pojedynczych kontrastów c µ s dane przez: c µ : c x (n 1)(q 1) c ± F Sc q 1,n q+1(α) n q + 1 n

32 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Przykªad 2 Ulepszanie leku cz sto zaczyna si od sprawdzenia efektów ubocznych na zwierz tach. W jednym z bada«mamy 19 psów, którym podawano lek. Ka»dy z psów otrzymaª dawk dwutlenku w gla CO 2 w dwóch ró»nych ci±nieniach. Nast pnie podano halotan H oraz podanie CO 2 zostaªo powtórzone. Czas pomi dzy biciem serca zostaª zmierzony dla 4 kombinacji zabiegu : zabieg 1 = Wysokie ci±nienie CO 2 bez podania H zabieg 2 = Niskie CO 2 bez podania H zabieg 3 = Wysokie ci±nienie CO 2 oraz podanie H zabieg 4 = Niskie ci±nienie CO 2 oraz podanie H Dane przedstawia tabela - na jej podstawie porównamy wpªyw CO 2 oraz H.

33 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2

34 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 oraz C = Z powy»szej tabeli otrzymujemy : nast pnie mo»emy wyznaczy : T 2 = n(cx) (CSC ) 1 (Cx) = = 116

35 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Na poziomie α=0.05 wyznaczamy : W kolejnym kroku porównujemy, T 2 = 116>10.94, wi c odrzucamy H 0, która mówi o braku ró»nic w efektach zabiegu. Aby stwierdzi, które z czynników s odpowiedzialne za odrzucenie hipotezy zerowej, skonstruujemy 95% jednoczesne przedziaªy ufno±ci za pomoc wierszy macierzy kontrastu.

36 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 data psy; input t1-t4; cards; ; run; ods select Cov; proc corr data=psy noprob outp=outcov nomiss cov; var t1-t4; run; proc iml; use OutCov where(_type_="cov"); read all var _NUM_ into s[colname=varnames]; print s; use OutCov where(_type_="mean"); read all var{t1 t2 t3 t4} into mu[colname=varnames]; print mu; use psy; read all into x; print x; n=nrow(x); print n; C={ , , }; print c; a=c*t(mu); print a; b=c*s*t(c); print b; c=t(c*t(mu))*inv(c*s*t(c))*(c*t(mu)); print c; T2=n*c; print t2; quit;

37 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2

38 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2

39 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2

40 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Wpªyw halotanu c 1µ = (µ 3 + µ 4 ) (µ 1 + µ 2 ) jest szacowany przez przedziaª 18 3 c ( x 3 + x 4 ) ( x 1 + x 2 ) ± 16 F 1 3,16(0.05) Sc 1 = 19 = 209, 31 ± 73, 70 gdzie c1 jest pierwszym wierszem macierzy kontrastu C.

41 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Podobnie szacujemy wpªywy CO 2 oraz interakcji CO 2 z H: WpªywCO 2 : (µ 1 + µ 3 ) (µ 2 + µ 4 ) = 60, 05 ± 54, 70 Wpªyw interakcji CO 2 z H : (µ 1 + µ 4 ) (µ 2 + µ 3 ) = 12, 79 ± 65, 97

42 Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Pierwszy przedziaª ufno±ci wskazuje,»e halotan wywiera wpªyw na bicie serca psów - jego obecno± w organizmie zwi ksza czas pomi dzy kolejnymi uderzeniami. Dzieje si to na obu poziomach ci±nienia CO 2, jako»e interakcja halotanu z dwutlenkiem w gla nie jest znacz co ró»na od zera - co mo»na wywnioskowa z trzeciego przedziaªu ufno±ci. Drugi przedziaª pozwala nam wnioskowa,»e podawanie CO 2 nie jest oboj tne - im ni»sze ci±nienie, tym dªu»szy czas pomi dzy uderzeniami serca psa.

43 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Statystyka T 2 dla testowania równo±ci wektorów ±rednich dla dwóch wielowymiarowych populacji mo»e by rozwini ta analogicznie do jednowymiarowego procesu. Ta statystyka jest wªa±ciwa dla porównywania wyników dla populacji 1 z niezale»nymi wynikami otrzymanymi dla populacji 2. Rozwa»aj c losowe próby o wielko±ci n 1 z populacji 1 oraz próby wielko±ci n 2 z populacji 2 otrzymujemy :

44 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Zaªo»enia 1. Próby X 11,X 12,...,X 1n 1 s losowymi próbami o wielko±ci n 1 z wektorem ±rednim µ 1 oraz macierz kowiariancji 1 2. Próby X 21,X 22,...,X 2n 2 s losowymi próbami o wielko±ci n 2 z wektorem ±rednim µ 2 oraz macierz kowiariancji 2 3. X 11,X 12,...,X 1n 1 s niezale»ne z X 21,X 22,...,X 2n 2.

45 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Zaªo»enia, gdy gdy n 1 i n 2 s maªe Zaªo»enia 1.Obie populacje pochodz z wielowymiarowego rozkªadu normalnego. 2. Macierze kowariancji s sobie równe. Gdy = =, wówczas n 1 (x 1 2 j=1 1j x 1 )(x 1j x 1 )' jest oszacowaniem (n 1 1) oraz n 2 (x j=1 2j x 2 )(x 2j x 2 )' jest oszacowaniem (n 2 1).

46 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Mo»emy poª czy informacje z obu próbek, aby oszacowa wspóln macierz wariancji i kowariancji : Do testowania hipotezy µ 1 µ 2 = σ 0 (okre±lony wektor), rozwa»amy odlegªo± z µ 1 µ 2 do σ 0. Zatem : E(X 1 X 2 ) = E(X 1 ) E(X 2 ) = µ 1 µ 2

47 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Z zaªo»enia o niezale»no±ci mamy»e X 1 oraz X 2 s niezale»ne tak wi c Cov(X 1 X 2 ) = 0, a z tego : Cov(X 1 X 2 ) = 0 = Cov(X 1 ) + Cov(X 2 ) = 1 n n 2 Jako»e S pooled estymuje Σ, widzimy»e: ( 1 n n 2 )S pooled jest estymatorem Cov(X 1 X 2 ).

48 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Test stosunku wiarygodno±ci Przeprowadzamy test z hipotez zerow : µ 1 µ 2 = δ 0 Odrzucamy H 0 je±li zachodzi nierówno± : T 2 = [ x 1 x 2 δ 0 ] [( 1 n n 2 )S pooled ] 1 [ x 1 x 2 δ 0 ] > c 2 gdzie warto± krytyczna c 2 jest wyznaczona przez rozkªad statystyki T 2 dla dwóch prób.

49 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Wniosek Je±li X 11, X 12,..., X 1n 1 s losowymi próbami o wielko±ci n 1 z rozkªadu N p (µ 1, ) oraz X 21, X 22,..., X 2n 1 s niezale»nymi losowymi próbami o wielko±ci n 2 z rozkªadu N p (µ 2, ) wówczas: posiada rozkªad : w konsekwencji otrzymujemy :

50 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przykªad 3 Dwie fabryki produkuj mydªo na ró»ne sposoby. Dysponujemy dwiema próbkami, po 50 kostek mydªa z ka»dej z fabryk i chcemy zbada, czy ró»ne sposoby produkcji prowadz do posiadania przez produkt ró»nych cech. W tym celu dokonano pomiarów dwóch cech: X 1 = ilo±ci piany oraz X 2 = nawil»enia. Dane przedstawia tabela: Chcemy wyznaczy przedziaª ufno±ci dla µ 1 µ 2.

51 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Mo»emy zauwa»y»e S 1 oraz S 2 s w przybli»eniu sobie równe, wi c rozs dnym wydaje si obliczenie wspólnej macierzy kowariancji: Elipsa ma ±rodek w punkcie x 1 x 2 = ( 1.9, 0.2). W kolejnym kroku wyliczymy warto±ci oraz wektory wªasne wspólnej macierzy kowariancji: wiec λ = (7 + / 49 36)/2.

52 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 W konsekwencji otrzymujemy»e λ 1 = oraz λ 2 = 1.697, oraz wektory wªasne : [ ] [ ] e 1 =, e 2 = Korzystaj c z wniosku otrzymujemy : gdzie F 2,97(0.05) = 3.1. Elipsa rozpi ta jest na wektorach wªasnych e 1 oraz e 2, a o± wielka i o± maªa maj dªugo±ci wzdªu» tych wektorów dane wzorem:

53 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2

54 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 proc iml; n1=50; n2=50; xbar1={8.3, 4.1}; xbar2={10.2, 3.9}; s1={2 1, 1 6}; s2={2 1, 1 4}; print xbar1; print xbar2; print s1; print S2; s_p=(49/98)*s1+(49/98)*s2; T2=T(xbar1-xbar2)*inv(((1/n1)+(1/n2))*s_p)*(xbar1-xbar2); print T2; call eigen(val,vec,s_p); print val; print vec; q1=finv(.95,2,n1+n2-2-1); print q1; fval=((1/n1)+(1/n2))*q1*(n1+n2-2)*2/(n1+n2-2-1); print fval; dl1=sqrt(val[1,1])*sqrt(fval); print dl1; dl2=sqrt(val[2,1])*sqrt(fval); print dl2; dbar=xbar1-xbar2; print dbar; quit;

55 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2

56 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2

57 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Wniosek Elipsa naszego przedziaªu ufno±ci jasno pokazuje»e µ 1 µ 2 = 0 nie nale»y do niej, wi c mo»emy wnioskowa»e obie metody produkcji kostki mydªa otrzymuj ró»ne wyniki. Wydaje si,»e obie metody produkuj mydªo o tym samym stopniu nawil»enia X 2, jednak»e mydªa otrzymane z drugiego procesu wytwarzaj wi cej piany X 1.

58 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Jednoczesne przedziaªy ufno±ci Mo»liwym jest wyprowadzenie jednoczesnych przedziaªów ufno±ci dla skªadowych wektora µ 1 µ 2. Przedziaªy te tworzy si rozwa»aj c wszystkie liniowe kombinacje ró»nic w wektorach warto±ci ±rednich. Przyjmuje si,»e dane z populacji posiadaj wielowymiarowy rozkªad normalny o wspólnej macierzy kowariancji Σ.

59 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Wniosek Niech c 2 = [(n 1 + n 2 2)p/(n 1 + n 2 p 1)]F p,n1 +n 2 p 1(α). Z prawdopodobie«stwem 1 α. a (X 1 X 2 ) ± c a ( 1 n n 2 )S pooled a pokryje a (µ 1 µ 2 ) dla wszystkich a. W szczególno±ci µ 1i µ 2i b dzie pokryte przez (X 1i X 2i) ± c a ( 1 n n 2 )s ii,pooled dla i = 1, 2,..., p

60 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przykªad Próbki wielko±ci n 1 = 45 i n 2 = 55 zostaªy zebrane od wªa±cicieli mieszka«w Wisconsin, kolejno: z i bez klimatyzacji. Zmierzono zu»ycie energii elektrycznej w kilowatogodzinach. Pierwsze dane przedstawiaj zu»ycie w lipcu w trakcie godzin szczytu, a drugie zu»ycie w lipcu w godzinach poza szczytem. Rezultaty s nast puj ce(zu»ycie poza szczytem jest wi ksze, poniewa» w miesi cu jest wi cej godzin poza szczytem ni» w jego trakcie):

61 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Znajdziemy 95% jednoczesne przedziaªy ufno±ci dla ró»nic w skªadowych wektorów ±rednich. Chocia» wariancje z próby wydaj si znacz co ró»ni, spróbujemy wyznaczy macierz poª czon wariancji i kowariancji. St d S pooled = n 1 1 n 1 + n 2 2 S 1 + n 2 1 n 1 + n 2 2 S 2 = oraz [ ] c 2 = (n 1 + n 2 2)p n 1 + n 2 p 1 F p,n 1 +n 2 p 1(α) = F 2,97(0, 05) = 2, 02 3, 1 = 6, 26

62 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Z wektorem µ 1 µ = [µ 2 11 µ 21, µ 12 µ 22 ] 95% przedziaªy ufno±ci dla ró»nic w populacjach s nast puj ce: µ 11 µ 21 : (204, 4 130, 0) ± 6, 26 21, 7 µ 11 µ , 1 (w szczycie) µ 12 µ 22 : (556, 6 355, 0) ± 6, 26 ( )10963, 7 ( )63661, 3 774, 7 µ 12 µ , 5 (poza szczytem)

63 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Wnioskujemy,»e istnieje ró»nica pomi dzy zu»yciem energii elektrycznej w domach z i bez klimatyzacji. Ró»nica jest widoczna zarówno w godzinach szczytu, jak i poza nim. Elipsa 95% obszaru ufno±ci dla wektora µ 1 µ 2 jest wyznaczana przez warto±ci i wektory wªasne λ 1 = 71323, 5, e = [0, 336; 0, 942] 1 oraz λ 2 = 3301, 5, e = [0, 942; 0, 336]. 2 Poniewa» λ1 ( )c n 1 n 2 = 71323, 5 ( )6, 26 = 134, 3 55 oraz λ2 ( )c n 1 n 2 = 3301, 5 2 ( )6, 26 = 28, 9 55 Otrzymujemy elips dla wektora µ 1 µ 2. Poniewa» elipsa nie pokrywa wektora zerowego, statystyka T 2 odrzuca H 0 : µ 1 µ 2 = 0 na 5% poziomie istotno±ci.

64 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Jednoczesne przedziaªy ufno±ci Bonferroniego Jednoczesne 100(1 α) przedziaªy ufno±ci Bonferroniego dla p ró»nic w warto±ciach ±rednich populacji s dane µ 1i µ 2i : (x 1i x 2i) ± t n1 +n 2 2( α 2p ) ( 1 n n 2 )s ii,pooled gdzie t n1 +n 2 2( α 2p ) jest górnym kwantylem rz du α 2p rozkªadu t-studenta z n 1 + n 2 2 stopniami swobody.

65 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Kiedy Σ 1 Σ 2, nie jeste±my w stanie znale¹ miary ódlegªo±ci"takiej jak T 2, której rozkªad nie zale»aªby od nieznanych Σ 1 oraz Σ 2. Przyjmujemy,»e macierze kowariancji s istotnie ró»ne, je±li zachodzi dowolna ró»nica typu σ 1,ii = 4σ 2,ii lub vice versa. Jednak»e dla du»ych prób n 1, n 2, poprzez centralne twierdzenie graniczne mo»emy unikn problemów spowodowanych ró»nymi macierzami kowariancji.

66 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Wniosek Niech wielko±ci prób n 1 q oraz n 2 p b d du»e. Wówczas elipsoida 100(1 α)% obszaru ufno±ci dla µ 1 µ 2 jest dana przez wszystkie wektory µ 1 µ 2 speªniaj ce [x 1 x 2 (µ 1 µ 2 )] [ 1 n 1 S n 2 S 2 ] 1 [x 1 x 2 (µ 1 µ 2 )] χ 2 p(α) gdzie χ 2 p(α) jest górnym kwantylem rz du α rozkªadu chi kwadrat z p stopniami swobody. Równie» jednoczesne 100(1 α)% przedziaªy ufno±ci dla wszystkich kombinacji liniowych a (µ 1 µ 2 ) powstaj przez a (µ 1 µ 2 )nale» ce do a (x 1 x 2 ) ± χ 2 p(α) a ( 1 S S 2 )a n 1 n 2

67 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Uwaga Je»eli n 1 = n 2 = n, to (n 1)/(n + n 2) = 1/2, wi c 1 S S 2 = 1 n 1 n 2 n (S 1 + S 2 ) = (n 1)S 1 + (n 1)S 2 ( 1 n + n 2 n + 1 n ) = S pooled ( 1 n + 1 n ) Dla prób o takiej samej liczno±ci, procedura jest taka sama jak ta bazuj ca na poª czonej macierzy kowariancji. W analizie jednowymiarowej, znanym faktem jest, i» efekt nierówno±ci kowariancji jest mniejszy dla n 1 = n 2, a wi kszy kiedy n 1 jest znacznie mniejsze od n 2 (lub na odwrót).

68 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przykªad Przeanalizujemy dane dotycz ce zu»ycia energii z poprzedniego przykªadu, u»ywaj c podej±cia dla du»ych prób. Na pocz tek obliczamy [ ] n 1 S n 2 S 2 = [ ] = [ ]

69 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przykªad 95% jednoczesne przedziaªy ufno±ci dla kombinacji liniowych [ ] a µ11 µ21 (µ 1 µ 2 ) = [1, 0] µ 12 µ22 oraz s postaci = µ 11 µ21 a (µ 1 µ 2 ) = [0, 1] = µ 12 µ22 [ ] µ11 µ21 µ 12 µ22 µ 11 µ21 : 74.4 ± czyli(21.7, 127.1) µ 12 µ22 : ± czyli(75.8, 327.4)

70 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przykªad Zauwa»my,»e przedziaªy te nieznacznie ró»ni si od przedziaªów wyznaczonych w poprzednim przykªadzie, gdzie zastosowano procedur ª czenia macierzy wariancji i kowariancji. Statystyka T 2 dla testu H 0 : µ 1 µ 2 = 0 wynosi: T 2 = [x 1 x 2 ] [ 1 S S 2 ] 1 [x 1 x 2 ] = n 1 n 2 [ ] [ ] [ ] = [ ] [ ] = [ ](10 4 ) =

71 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Na poziomie α = 0.05 warto± krytyczna wynosi χ 2 (0.05) = 5.99, 2 i - jako»e T 2 = > χ 2 (0.05, odrzucamy hipotez zerow. 2 Liniowa kombinacja prowadz ca do odrzucenia H 0 ma wektor wspóªczynników: Ró»nica w zu»yciu energii poza szczytem pomi dzy domami z klimatyzacj a domami bez niej bardziej przyczynia si do odrzucenia H 0 ni» ró»nica w zu»yciu energii w szczycie.

72 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przybli»enie rozkªadu T 2 dla populacji pochodz cych z rozkªadu normalnego kiedy wielko±ci prób nie s du»e Mo»emy sprawdza H 0 : µ 1 µ 2 = 0 gdy macierze kowariancji populacji nie s sobie równe nawet gdy wielko±ci prób nie s du»e, zakªadaj c,»e populacje pochodz z wielowymiarowego rozkªadu normalnego. Uzyskanie rezultatu wymaga, aby wielko±ci obu prób byªy wi ksze ni» p - liczba zmiennych. Wybrane podej±cie zale»y od przybli»enia rozkªadu statystyki T 2 = [X 1 X 2 (µ 1 µ 2 )] [ 1 n 1 S n 2 S 2 ] 1 [X 1 X 2 (µ 1 µ 2 )]

73 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Jednak»e zamiast u»ycia przybli»enia chi kwadrat, aby otrzyma warto± krytyczn dla testowania h0, zalecane przybli»enie dla mniejszych prób jest dane przez: T 2 = vp v p + 1 F p,v p+1 gdzie ilo± stopni swobody v jest szacowana za pomoc macierzy kowariancji próby u»ywaj c zale»no±ci: gdzie min(n 1, n 2 ) v n 1 + n 2

74 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Dla prób ±redniej wielko±ci i dwóch populacji z rozkªadu normalnego, odrzucamy H 0 : µ 1 µ 2 = 0 w te±cie na równo± warto±ci ±rednich na poziomie istotno±ci α, je»eli [x 1 x 2 (µ 1 µ 2 )] [ 1 n 1 S n 2 S 2 ] 1 [x 1 x 2 (µ 1 µ 2 )] > vp v p + 1 F p,v p+1(α) gdzie v jest dane poprzednim wzorem.

75 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przykªad Chocia» wielko±ci prób dotycz cych zu»ycia energii w Wisconsin s dosy du»e, u»yjemy tych danych i wylicze«z poprzedniego przykªadu aby przedstawi obliczenia prowadz ce do przybli»enia rozkªadu T 2 kiedy macierze kowariancji populacji nie s równe. Na pocz tku obliczamy:

76 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Korzystaj c z poprzednio uzyskanych wyników: Kolejno:

77 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2

78 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Kolejno Szacowana za pomoc wzoru liczba stopni swobody

79 Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Oraz warto± krytyczna dla poziomu istotno±ci α = 0, 05 Warto± statystyki testowej wynosi T 2 = 15, 66, dlatego te» H 0 : µ 1 µ 2 = 0 jest odrzucana na poziomie istotno±ci α = 0, 05. Uzyskali±my taki sam wniosek jak przy u»yciu procedury dla du»ych prób opisanej w poprzednim przykªadzie.

80 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Cz sto porównujemy ze sob wi cej ni» dwie populacje. Wówczas próby losowe ka»dej z g populacji indeksujemy nast puj co: informuje nas, czy wektory warto±ci ±rednich populacji s takie same, a je±li nie s - które z ich skªadowych ró»ni si najbardziej.

81 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Zaªo»enia o strukturze danych 1 X l 1, X l 2,..., X lnl jest prób o rozmiarze n l ze ±redni µ l, l = 1, 2,..., g. Próby pochodz ce z ró»nych populacji s wzgl dem siebie niezale»ne. 2 Wszystkie populacje maj wspóln macierz kowariancji Σ 3 Ka»da populacja posiada wielowymiarowy rozkªad normalny

82 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Podsumowanie: ANOVA Dla bada«w jednym wymiarze, zakªadamy,»e X l 1, X l 2,..., X lnl s prób z populacji o rozkªadzie normalnym z parametrami (µ l, σ 2 ), l = 1, 2,..., g oraz»e próby losowe s niezale»ne. Mimo i» hipoteza zerowa o równo±ci warto±ci ±rednich mo»e by przedstawiona w postaci µ 1 = µ 2 =...µ g =, wygodnie jest zapisa µ l jako sum - ogólnej ±redniej µ oraz skªadnika odpowiadaj cego za efekt zabiegu w populacji l, oznaczanego τ l. Taka reparametryzacja: µ l = µ + τ l

83 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 prowadzi do przedstawienia hipotezy zerowej w nast puj cy sposób: H 0 : τ 1 = τ 2 =... = τ g = 0 Obserwacje z próby przedstawiamy wówczas jako: x lj = x + (x l x) + (x lj x l ) gdzie x jest estymatorem µ, τ l = x l x jest estymatorem τ l, a x lj x l jest estymatorem bª du losowego.

84 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Przykªad Rozwa»my nast puj ce niezale»ne próby losowe: Obliczaj c kolejne ±rednie otrzymujemy zapis macierzowy: Zagadnienie równo±ci warto±ci ±rednich rozstrzygamy rozpatruj c stosunek macierzy efektu zabiegu do macierzy bª dów - je±li jest on wzgl dnie du»y, nale»y odrzuci hipotez zerow.

85 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Dla ka»dej z macierzy obliczamy sum kwadratów warto±ci jej elementów, kolejno: Sumy kwadratów elementów macierzy speªniaj równanie SS obs = SS mean + SS tr + SS res

86 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Analiza wariancji polega na porównaniu wzgl dnych wielko±ci SS tr oraz SS res - je»eli H 0 jest prawdziwa, wielko±ci te powinny by sobie bliskie. B dziemy je testowa za pomoc F-testu - na poziomie istotno±ci α odrzucamy H 0 : τ 1 = τ 2 =... = τ g = 0, je±li zachodzi nierówno± : gdzie F g 1, n l g (α) jest górnym α kwantylem rozkªadu F z g 1 i n l g stopniami swobody.

87 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Dla naszego przykªadu, tabela ANOVA przyjmuje posta : Obliczamy warto± F:

88 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Poniewa» F = 19, 5 > F 2,5(0, 01) = 13.27, mamy podstawy do odrzucenia hipotezy zerowej o braku efektów zabiegu na poziomie istotno±ci α = 1%.

89 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Wielowymiarowa Analiza Wariancji () Model dla porównywania wektorów warto±ci ±rednich z g popuacji ma posta : X lj = µ + τ l + e lj, j = 1, 2,..., n l, l = 1, 2,..., g. gdzie e lj jest niezale»n zmienn losow z rozkªadu N p (0, ), µ jest ogóln ±redni natomiast τ l reprezentuje l-ty efekt zabiegu speªniaj cy g n l=1 lτ l. Wektor obserwacji mo»e by przedstawiony w nast puj cej postaci: x lj = x + (x l x) + (x lj x l ) x - ogólna ±rednia z próby x l - ±rednia dla populacji l

90 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Analogicznie jak dla ANOVA, hipoteza zerowa: H 0 : τ 1 = τ 1 =... = τ g = 0 jest testowana poprzez porównanie wzgl dnych wielko±ci SS tr oraz SS res.

91 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Formalnie obliczenia mo»emy podsumowa jako tabelk

92 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Test H 0 : τ 1 = τ 1 =... = τ g = 0 dotyczy ogólnych wariancji. Odrzucamy H 0, gdy poziom jest mniejszy od warto±ci krytycznej. Wªa±ciwe u»ycie λ* w zale»no±ci od sytuacji jest przedstawione w poni»szej tabeli :

93 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4

94 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Wilks lambda mo»e by tak»e wyra»one jako funkcja warto±ci wªasnych λ 1, λ 2,..., λ g macierzy W 1 B jako : gdzie s=min(p,g-1).

95 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Przykªad Zadanie Do obserwacji z poprzedniego zadania dodano jedn zmienn. Wyniki przedstawiono poni»ej. Zbadamy równo± wektorów warto±ci ±rednich za pomoc. n 1 = 3, n 2 = 2, n 3 = 3.

96 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Z poprzednich oblicze«wiemy»e : Ponadto : SS obs = SS mean + SS tr + SS tr 216 = wi c SS cor = SS obs SS mean = = 88

97 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Powtarzaj c operacj dla drugiej zmiennej,otrzymujemy : oraz SS obs = SS mean + SS tr + SS tr 272 = wi c SS cor = SS obs SS mean = = 72

98 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Aby wprowadzi dane do tabeli, musimy wykona obliczenia iloczynów skalarnych: Mean : = = 160 Treatment : 3 4 ( 1) + 2 ( 3) ( 3) + 3 ( 2) 3 = 12 Residual : 1 ( 1) + ( 2) ( 2) + ( 1) = 1 Total : = 149 SS cor = total mean = = 11

99 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Wprowadzimy dane do tabeli :

100 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Otrzymujemy nast puj c równo± : [ ] = [ ] [ ] U»ywaj c wzoru na lambd Wilksa: Przeprowadzamy test: H 0 : τ 1 = τ 2 = τ 3 = 0 H 1 : conajmniej jedna τ l jest ró»na od 0.

101 Porównujemy warto± statystyki: Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 z kwantylem rozkªadu F-Snedecora z v 1 = 2(g 1) = 4 oraz v 2 = 2( n l g 1) = 8 stopniami swobody. F 4,8(0.01) = 7.01 Wniosek Poniewa» 8.19 > F 4,8(0.1) = 7.01, odrzucamy hipotez zerow na poziomie α = 0.01 oraz wnioskujemy»e ró»nice w efektach zabiegów istniej.

102 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Uwaga Dla modelu X lj = µ + τ l + e lj, gdzie j = 1, 2,..., n l oraz l = 1, 2,..., g na poziomie istotno±ci (1 α) mamy: τ ki τ li nale» do dla wszystkich skªadników i = 1, 2,..., p oraz dla wszystkich ró»nic l < k = 1, 2,..., g. gdzie w ii jest i-tym diagonalnym elementem W.

103 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Testowanie równo±ci macierzy kowariancji Jednym z zaªo»e«, gdy porównujemy wielowymiarowe wektory ±rednie jest»e macierze kowiariancji ró»nych populacji s sobie równe. Gdy mamy g populacji, wówczas hipoteza zerowa : H 0 : 1 = 2 =... = g = Hipoteza alternatywn : przynajmniej dwie macierze kowariancji s ró»ne.

104 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Test Boxa na równo± macierzy kowariancji gdzie p - ilo± zmiennych, g - ilo± grup. Wówczas : ma rozkªad χ 2 z stopniami swobody. Odrzucamy H 0 na poziomie α gdy :

105 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Dwukierunkowa wielowymiarowa analiza wariancji Okre±lamy dwukierunkowy model ustalonych efektów dla wektora, który pozwoli nam zbada równie» interakcj zabiegów: X lkr = µ + θ l + β k + γ lk + e lkr l = 1, 2,..., g, k = 1, 2,..., b, r = 1, 2,..., n Gdzie µ to ogólna ±rednia, θ l to wpªyw zabiegu pierwszego, β k to wpªyw zabiegu drugiego, a γ lk to interakcja mi dzy zabiegami. Zakªadamy,»e e lkr ma rozkªad normalny N p (0, ) Wektor x lkr mo»emy zapisa w nast puj cej formie : x lkr = x + (x l x) + (x k x) + (x lk x l x k + x) + (x lkr x lk ) Wówczas tabela przyjmuje nast puj c posta.

106 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4

107 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Przeprowadzamy testy na istnienie efektów interakcji, oraz zabiegów - pierwszego i drugiego. Obliczamy statystyki lambdy Wilksa, a nast pnie porównujemy je z kwantylami rozkªadu chi kwadrat z odpowiedni ilo±ci stopni swobody. Test na efekty interakcji: Obliczamy warto± statystyki: Hipoteza zerowa jest odrzucana je±li zachodzi nierówno± :

108 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Test na efekt pierwszego zabiegu: Obliczamy warto± statystyki: Hipoteza zerowa jest odrzucana je±li zachodzi nierówno± :

109 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Test na efekt drugiego zabiegu: Obliczamy warto± statystyki: Hipoteza zerowa jest odrzucana je±li zachodzi nierówno± :

110 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Przykªad 4 Badano optymalne warunki dla wytªaczania lmu u»ywaj c technologii Evolutionary Operation. Zbadano trzy zmienne - odporno± na rozerwanie, poªysk oraz nieprzezroczysto±. Zostaªy one zmierzone na dwóch poziomach czynników - stopnia wyciskania oraz ilo±ci dodatków. Pomiary powtórzono pi ciokrotnie. Za pomoc dwutorowej chcemy zbada wpªyw czynników na uzyskane badania oraz ich natur. Dane przedstawia tabela.

111 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4

112 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Manova table

113 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4

114 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4

115 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4

116 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 W te±cie na interakcj nie odrzucamy hipotezy zerowej o braku efektów interakcji. W testach na efekty czynników 1 i 2 odrzucamy hipotez zerow i wnioskujemy,»e wpªywaj one na wyniki. Wnioskujemy,»e zarówno zmiana w stopniu wyciskania jak i ilo± dodatków maj wpªyw na wyniki, ponadto z powodu braku interakcji wpªyw ten ma charakter addytywny.

117 Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 PROC GLM DATA=dane1; CLASS change amount; MODEL x1-x3 = change amount change*amount / P SOLUTION; H=change*amount /PRINTH PRINTE; H=change / printh printe; H=amount / printh printe; run;