Porównywanie wielowymiarowych wektorów warto±ci ±rednich Politechnika Gda«ska 20 marca 2014
Cel prezentacji Niezb dny wst p teoretyczny Cel prezentacji W naszej prezentacji przedstawimy zagadnienia zwi zane z porównywaniem ró»nych wektorów warto±ci ±rednich. Przeanalizujemy porównywanie par wektorów z ró»nych populacji oraz procedur powtórzonych pomiarów dla wektorów z tej samej populacji, przedstawimy metod porównywania efektów ró»nych rodzajów zabiegu, a tak»e metod.
Cel prezentacji Niezb dny wst p teoretyczny Niezb dny wst p teoretyczny Statystyka T 2 Hotellinga Jest deniowana jako: T 2 = n(x µ 0 ) S 1 (X µ 0 ) gdzie X = 1 n n j=1 X j, S = 1 n 1 j=1 µ 10 µ 20 n (X j X )(X j X ), µ 0 =. µ p0
Cel prezentacji Niezb dny wst p teoretyczny Rozkªad statystyki T 2 : T 2 (n 1)p n p F p,n p gdzie p - ilo± zmiennych, n - liczba obserwacji, F p,n p - zmienna losowa o rozkªadzie F-Snedecora z p i n p stopniami swobody. Przeprowadzenie wielowymiarowego t-testu polega na zwerykowaniu hipotezy zerowej: H 0 : µ = µ 0 na poziomie istotno±ci α. Hipotez zerow odrzucamy, gdy zachodzi nierówno± : T 2 = n(x µ 0 ) S 1 (X µ 0 ) > (n 1)p n p F p,n p(α)
Cel prezentacji Niezb dny wst p teoretyczny Obszary ufno±ci Obszar R(X) nazywamy 100(1 α)% obszarem ufno±ci, je»eli zachodzi: P[θ R(X )] = 1 α W naszym przypadku, dla populacji pochodz cej z wielowymiarowego rozkªadu normalnego równanie przyjmuje posta : P[n(X µ 0 ) S 1 (X µ 0 ) (n 1)p n p F p,n p(α)] = 1 α
Cel prezentacji Niezb dny wst p teoretyczny Dla konkretnej próby obliczamy x oraz S i wówczas 100(1 α)% elips obszaru ufno±ci wyznaczaj wszystkie µ speªniaj ce n(x µ 0 ) S 1 (x µ 0 ) (n 1)p n p F p,n p(α) Jej ±rodkiem jest x, a osie i ich dªugo±ci wyznaczamy za pomoc wektorów i warto±ci wªasnych macierzy S. O± wielka i maªa le» wzdªu» wektorów wªasnych e oraz 1 e, natomiast ich dªugo±ci 2 wynosz odpowiednio: λi p(n 1) n(n p) F p,n p(α) gdzie λ i jest odpowiedni warto±ci wªasn macierzy S.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Cz sto prowadzimy pomiary na dwóch zbiorach, a nast pnie chcemy dowiedzie si, czy istniej istotne statystyczne ró»nice pomi dzy uzyskanymi wynikami. Na przykªad: skuteczno± dziaªania nowego leku lub kampanii reklamowej mierzymy porównuj c pomiary sprzed zabiegu (lekiem, reklam ) z uzyskanymi po zabiegu. Równie dobrze mo»na stosowa dwa lub wi cej zabiegi na t sam b d¹ podobne jednostki i sprawdza, które z nich jest najbardziej efektywne. Rozs dnym podej±ciem wydaje si stosowanie dwóch zabiegów, lub zabiegu i jego braku (placebo), na t sam b d¹ identyczn jednostk. Sparowane odpowiedzi analizujemy poprzez ró»nice mi dzy nimi, co pozwala unikn wariancji pomi dzy jednostkami.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 W pojedynczym przypadku niech X j 1 oznacza pomiar j tej jednostki po zabiegu 1, a X j 2 pomiar j tej jednostki po zabiegu 2. Rozpatrujemy n ró»nic D j = X j 1 X j 2, j = 1, 2,..., n, które powinny odzwierciedla tylko wpªyw zabiegu. Zakªadamy,»e ró»nice D j s niezale»nymi zmiennymi losowymi o rozkªadzie normalnym N(δ, σd 2 ). Zmienna gdzie t = D δ s d / n D = 1 n n j=1 D j i s 2 d = 1 n 1 n (D j D) 2 j=1 ma rozkªad t-studenta z n-1 stopniami swobody.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Przeprowadzamy t-test na poziomie istotno±ci α: H 0 : δ = 0(zabieg nie przynosi efektu) przeciwkoh 1 : δ 0. Porównujemy warto± t z α/2 górnym kwantylem rozkªadu t-studenta z n 1 stopniami swobody. Przedziaª ufno±ci dla ±redniej ró»nicy δ jest dany przez nierówno±ci: d t n 1 (α/2) s d n δ d + t n 1 (α/2) s d n
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Dla procedury porównywania wielowymiarowych wektorów ±rednich wprowadzona jest dodatkowa notacja. Konieczne jest rozró»nienie pomi dzy p - zmiennymi, dwoma zabiegami i n - ilo±ci obserwacji. p pomiarów dla j tej jednostki oznaczamy jako: X 1j 1 = zmienna 1 po pierwszym zabiegu X 1j 2 = zmienna 2 po pierwszym zabiegu. X 1j 1 = zmienna p po pierwszym zabiegu... X 2j 1 = zmienna 1 po drugim zabiegu X 2j 2 = zmienna 2 po drugim zabiegu. X 2j 1 = zmienna p po drugim zabiegu
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Wówczas sparowane ró»nice oznaczamy D j 1 = X 1j 1 X 2j 1 D j 2 = X 1j 2 X 2j 2. D jp = X 1jp X 2jp Niech D j = [D j 1, D j 2,..., D jp ] i zaªó»my dla j = 1, 2,..., n,»e δ1 δ 2 E(D j = δ =. δ p oraz Cov(D j ) = Σ d
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Je»eli dodatkowo D 1, D 2,...D n s niezale»nymi wektorami z wielowymiarowego rozkªadu normalnego N p (δ, Σ d ), wówczas wnioskowanie o wektorze ±rednich ró»nic δ mo»e by oparte o statystyk T 2. Dokªadniej gdzie T 2 = n(d µ 0 ) S 1 (D µ 0 ) D = 1 n n j=1 D j, S d = 1 n 1 n (D j D)(D j D) j=1
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Wniosek Niech ró»nice D 1, D 2,...D n b d losow prób z populacji o rozkªadzie N p (δ, Σ d ). Wówczas T 2 = n(d µ 0 ) S 1 (D µ 0 ) ma rozkªad zmiennej losowej [(n 1)p/(n p)]f p,n p, niezale»nie od prawdziwych warto±ci δ oraz Σ d Je»eli n i n p s du»e to T 2 jest przybli»ana zmienn losow o rozkªadzie χ 2 p.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Dla obserwowanych ró»nic d j = d j 1, d j 2,..., d jp, j = 1, 2,..., n, test na poziomie istotno±ci α, gdzie H 0 : δ = 0 dla populacji z N p (δ, Σ d ) odrzuca hipotez zerow, je±li T 2 = nd (n 1)p S 1 d d > (n p) F p,n p(α) gdzie F p,n p jest górnym α kwantylem rozkªadu F z p i n p stopniami swobody.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Obszar ufno±ci i jednoczesne przedziaªy ufno±ci 100(1 α)% obszar ufno±ci dla δ skªada si z wszystkich δ speªniaj cych: (d δ) (n 1)p S 1 d (d δ) n(n p) F p,n p(α) Równie» 100(1 α)% jednoczesne przedziaªy ufno±ci dla pojedynczych warto±ci ±rednich δ i s dane przez: δ i : d i ± (n 1)p n p F p,n p(α) gdzie d i jest i tym elementem d oraz s di jest i tym elementem przek tnej macierzy S d. s 2 d i n
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Przykªad 1 Miejska oczyszczalnia w Wisconsin zobowi zanie jest do staªego monitorowania wód ±ciekowych. W trosce o poprawno± danych postanowiono porówna wyniki oddaj c próbki wody do dwóch laboratoriów - jednego stale badaj cego stan wód ±ciekowych (lab. nr 2, stanowe), drugiego nie uczestnicz cego w nich na co dzie«(lab. nr 1, komercyjne). Pobrano 11 próbek wody, z czego poªow ka»dej z nich wysªano do pierwszego, a poªow do drugiego laboratorium. Badanymi zmiennymi byªy: chemiczne zapotrzebowanie tlenu (BOD) oraz zawiesiny(ss). Dane przedstawia tabela.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Czy analizy chemiczne obu laboratoriów s zgodne? Je»eli istniej ró»nice - jaka jest ich istota?
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Statystyk T 2 przy testowaniu H 0 : δ = [δ 1, δ 2 ] = [0, 0] konstruujemy za pomoc ró»nic par obserwacji: Obliczaj c ±rednie i macierz kowariancji z próby otrzymujemy warto± statystyki:
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 data scieki; input kom_bod kom_ss sta_bod sta_ss ; cards; 6 27 25 15 6 23 28 13 18 64 36 22 8 44 35 29 11 30 15 31 34 75 44 64 28 26 42 30 71 124 54 64 43 54 34 56 33 30 29 20 20 14 39 21 ; run; proc iml; use scieki; read all var _num_ into X; X1=X[,1:2]; X2=X[,3:4]; D=X1-X2; n=nrow(d); p=ncol(d); jed=j(n,1,1); dbar=(1/n)*t(d)*jed; print dbar ; s=(1/(n-1))*t((d-jed*t(dbar)))*(d-jed*t(dbar)); print s; mu_0={0,0}; print mu_0; T2=n*T(dbar-mu_0)*inv(s)*(dbar-mu_0); print T2; quit;
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Na poziomie istotno±ci α = 0, 05 znajdujemy [p(n 1)/(n p)]f p,n p (0.05) = 9.47 Poniewa» T 2 = 13.6 > 9.47, odrzucamy hipotez zerow i wnioskujemy,»e wyst puje niezerowa ±rednia ró»nic pomi dzy pomiarami z obydwu laboratoriów. Przegl daj c dane zauwa»amy,»e laboraturium nr 1 uzyskaªo w pomiarach mniejsze BOD i wy»sze SS, ni» drugie laboratorium.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Obliczamy 95% jednoczesne przedziaªy ufno±ci dla ±rednich ró»nic δ 1 i δ 2 : (n 1)p δ 1 : d 1 ± n p F sd 2 1 p,n p(α) n = 9, 36 ± 199, 26 9, 47 11 inaczej( 22, 46; 3, 74) δ 2 : 13, 27 ± 418, 61 9, 47 inaczej( 5, 71; 32, 25) 11 95% jednoczesne przedziaªy ufno±ci pokrywaj zero, a pomimo to hipoteza zerowa zostaªa odrzucona. Z czego to wynika?
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Punkt δ = 0 wypada poza 95% obszar ufno±ci i jest to spójne z wynikiem testu T 2. Hipoteza zerowa nie jest odrzucana, je±li ka»dy 95% jednoczesny przedziaª ufno±ci dla dowolnej kombinacji liniowej postaci a 1 δ 1 + a 2 δ 2 pokrywa punkt zerowy. W naszym przypadku dwa przedziaªy ufno±ci dla wyborów (a 1 = 1, a 2 = 0) oraz (a 1 = 0, a 2 = 1) pokrywaj zero, istnieje jednak kombinacja liniowa, dla której nie jest to speªnione.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Jak si okazuje, ró»nica w wynikach pomiarów wynikaªa ze sposobu pobierania próbek wody ±ciekowej i nast pnego dzielenia jej. Po pobraniu próbki, wstrz sano ni, a nast pnie pierwsz poªow przelewano do naczynia przeznaczonego dla laboratorium 1, a pozostaª cz ± do naczynia dla laboratorium 2. To znacznie wpªyn ªo na wyniki bada«- u góry naczynia znajdowaªy si bowiem inne substancje ni» na dole (zawiesina opadaªa na dóª), przez co w praktyce laboratoria badaªy ró»ne próbki.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Warto zauwa»y,»e je»eli mamy kontrol nad przydzielaniem prób do bada«, powinno to by robione losowo - na przykªad rozstrzygni te rzutem monet.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Podsumowuj c dyskusje o parowym porównaniu przez zauwa»enie,»e d i S d i T 2 mog by obliczone z warto±ci x i S dla peªnej próby. Tutaj x to wektor ±rednich warto±ci o wymiarze 2px1 dla p zmiennych dla dwóch zabiegów dany przez x = [ x 11, x 12,..., x 1p, x 21, x 22,..., x 2p] natomiast S jest macierz wariancji i kowariancji z próby o wymiarze 2px2p
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Macierz S 11 zawiera wariancje i kowariancje z próby dla p zmiennych dla zabiegu 1. Podobnie S 22 zawiera wariancje i kowariancje przeliczon dla p zmiennych dla zabiegu 2. Wreszcie S 12 = S s macierzami kowariancji z próby obliczonymi z 21 obserwacji na parach zmiennych w zabiegowi 1 i zabiegowi 2.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Deniuj c macierz mo»emy stwierdzi,»e d j = Cx j j=1,2,...n d = C x i S d = CSC T 2 = n x C (CSC ) 1 C x i nie jest konieczne obliczanie ró»nic d 1, d 2,..., d n. Z drugiej strony warto mimo to obliczy te ró»nice,»eby sprawdzi normalno± i zaªo»enia o losowo±ci próbki.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Ka»dy wiersz c i macierzy C jest wektorem kontrastu, poniewa» suma elementów wiersza daje zero. Uwaga zwykle skupiona jest na wektorach kontrastu kiedy porównujemy zabiegi. Ka»dy wektor kontrastu jest prostopadªy do wektora 1 = [1, 1,..., 1] poniewa» c i 1 = 0.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Test równo±ci efektów zabiegów w projekcie powtórzonych pomiarów Rozpatrujemy populacj z rozkªadu N q (µ, Σ). Niech C b dzie macierz kontrastu. α -poziom testu. H 0 = Cµ = 0 (równe ±rednie zabiegów) H 1 = Cµ 0. Odrzucamy H 0 je»eli T 2 = n(c x) (CSC ) 1 C x > (n 1)(q 1) (n q + 1) F q 1,n q+1(α) gdzie F q 1,n q+1(α) jest górnym α kwantylem rozkªadu F z q 1 i n q + 1 stopniami swobody. x i S to wektor ±rednich i macierz kowariancji z próby.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Obszar ufno±ci dla wektorów kontrastu C µ jest wyznaczony przez zbiór wszystkich C µ speªniaj cych: n(c x Cµ) (CSC ) 1 (C x Cµ) (n 1)(q 1) F q 1,n q+1(α) n q + 1 Jednoczesne 100(1 α) przedziaªy ufno±ci dla pojedynczych kontrastów c µ s dane przez: c µ : c x (n 1)(q 1) c ± F Sc q 1,n q+1(α) n q + 1 n
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Przykªad 2 Ulepszanie leku cz sto zaczyna si od sprawdzenia efektów ubocznych na zwierz tach. W jednym z bada«mamy 19 psów, którym podawano lek. Ka»dy z psów otrzymaª dawk dwutlenku w gla CO 2 w dwóch ró»nych ci±nieniach. Nast pnie podano halotan H oraz podanie CO 2 zostaªo powtórzone. Czas pomi dzy biciem serca zostaª zmierzony dla 4 kombinacji zabiegu : zabieg 1 = Wysokie ci±nienie CO 2 bez podania H zabieg 2 = Niskie CO 2 bez podania H zabieg 3 = Wysokie ci±nienie CO 2 oraz podanie H zabieg 4 = Niskie ci±nienie CO 2 oraz podanie H Dane przedstawia tabela - na jej podstawie porównamy wpªyw CO 2 oraz H.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 oraz 1 1 1 1 C = 1 1 1 1 Z powy»szej tabeli otrzymujemy : 1 1 1 1 nast pnie mo»emy wyznaczy : T 2 = n(cx) (CSC ) 1 (Cx) = 19 6.11 = 116
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Na poziomie α=0.05 wyznaczamy : W kolejnym kroku porównujemy, T 2 = 116>10.94, wi c odrzucamy H 0, która mówi o braku ró»nic w efektach zabiegu. Aby stwierdzi, które z czynników s odpowiedzialne za odrzucenie hipotezy zerowej, skonstruujemy 95% jednoczesne przedziaªy ufno±ci za pomoc wierszy macierzy kontrastu.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 data psy; input t1-t4; cards; 426 609 556 600 253 236 392 395 359 433 349 357 432 431 522 600 405 426 513 513 324 438 507 539 310 312 410 456 326 326 350 504 375 447 547 548 286 286 403 422 349 382 473 497 429 410 488 547 348 377 447 514 412 473 472 446 347 326 455 468 434 458 637 524 364 367 432 469 420 395 508 531 397 556 645 625 ; run; ods select Cov; proc corr data=psy noprob outp=outcov nomiss cov; var t1-t4; run; proc iml; use OutCov where(_type_="cov"); read all var _NUM_ into s[colname=varnames]; print s; use OutCov where(_type_="mean"); read all var{t1 t2 t3 t4} into mu[colname=varnames]; print mu; use psy; read all into x; print x; n=nrow(x); print n; C={-1-1 1 1, 1-1 1-1, 1-1 -1 1}; print c; a=c*t(mu); print a; b=c*s*t(c); print b; c=t(c*t(mu))*inv(c*s*t(c))*(c*t(mu)); print c; T2=n*c; print t2; quit;
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Wpªyw halotanu c 1µ = (µ 3 + µ 4 ) (µ 1 + µ 2 ) jest szacowany przez przedziaª 18 3 c ( x 3 + x 4 ) ( x 1 + x 2 ) ± 16 F 1 3,16(0.05) Sc 1 = 19 = 209, 31 ± 73, 70 gdzie c1 jest pierwszym wierszem macierzy kontrastu C.
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Podobnie szacujemy wpªywy CO 2 oraz interakcji CO 2 z H: WpªywCO 2 : (µ 1 + µ 3 ) (µ 2 + µ 4 ) = 60, 05 ± 54, 70 Wpªyw interakcji CO 2 z H : (µ 1 + µ 4 ) (µ 2 + µ 3 ) = 12, 79 ± 65, 97
Porównanie parami Przykªad 1 Test równo±ci efektów zabiegów w projekcie powtórzonych po Przykªad 2 Pierwszy przedziaª ufno±ci wskazuje,»e halotan wywiera wpªyw na bicie serca psów - jego obecno± w organizmie zwi ksza czas pomi dzy kolejnymi uderzeniami. Dzieje si to na obu poziomach ci±nienia CO 2, jako»e interakcja halotanu z dwutlenkiem w gla nie jest znacz co ró»na od zera - co mo»na wywnioskowa z trzeciego przedziaªu ufno±ci. Drugi przedziaª pozwala nam wnioskowa,»e podawanie CO 2 nie jest oboj tne - im ni»sze ci±nienie, tym dªu»szy czas pomi dzy uderzeniami serca psa.
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Statystyka T 2 dla testowania równo±ci wektorów ±rednich dla dwóch wielowymiarowych populacji mo»e by rozwini ta analogicznie do jednowymiarowego procesu. Ta statystyka jest wªa±ciwa dla porównywania wyników dla populacji 1 z niezale»nymi wynikami otrzymanymi dla populacji 2. Rozwa»aj c losowe próby o wielko±ci n 1 z populacji 1 oraz próby wielko±ci n 2 z populacji 2 otrzymujemy :
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Zaªo»enia 1. Próby X 11,X 12,...,X 1n 1 s losowymi próbami o wielko±ci n 1 z wektorem ±rednim µ 1 oraz macierz kowiariancji 1 2. Próby X 21,X 22,...,X 2n 2 s losowymi próbami o wielko±ci n 2 z wektorem ±rednim µ 2 oraz macierz kowiariancji 2 3. X 11,X 12,...,X 1n 1 s niezale»ne z X 21,X 22,...,X 2n 2.
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Zaªo»enia, gdy gdy n 1 i n 2 s maªe Zaªo»enia 1.Obie populacje pochodz z wielowymiarowego rozkªadu normalnego. 2. Macierze kowariancji s sobie równe. Gdy = =, wówczas n 1 (x 1 2 j=1 1j x 1 )(x 1j x 1 )' jest oszacowaniem (n 1 1) oraz n 2 (x j=1 2j x 2 )(x 2j x 2 )' jest oszacowaniem (n 2 1).
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Mo»emy poª czy informacje z obu próbek, aby oszacowa wspóln macierz wariancji i kowariancji : Do testowania hipotezy µ 1 µ 2 = σ 0 (okre±lony wektor), rozwa»amy odlegªo± z µ 1 µ 2 do σ 0. Zatem : E(X 1 X 2 ) = E(X 1 ) E(X 2 ) = µ 1 µ 2
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Z zaªo»enia o niezale»no±ci mamy»e X 1 oraz X 2 s niezale»ne tak wi c Cov(X 1 X 2 ) = 0, a z tego : Cov(X 1 X 2 ) = 0 = Cov(X 1 ) + Cov(X 2 ) = 1 n 1 + 1 n 2 Jako»e S pooled estymuje Σ, widzimy»e: ( 1 n 1 + 1 n 2 )S pooled jest estymatorem Cov(X 1 X 2 ).
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Test stosunku wiarygodno±ci Przeprowadzamy test z hipotez zerow : µ 1 µ 2 = δ 0 Odrzucamy H 0 je±li zachodzi nierówno± : T 2 = [ x 1 x 2 δ 0 ] [( 1 n 1 + 1 n 2 )S pooled ] 1 [ x 1 x 2 δ 0 ] > c 2 gdzie warto± krytyczna c 2 jest wyznaczona przez rozkªad statystyki T 2 dla dwóch prób.
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Wniosek Je±li X 11, X 12,..., X 1n 1 s losowymi próbami o wielko±ci n 1 z rozkªadu N p (µ 1, ) oraz X 21, X 22,..., X 2n 1 s niezale»nymi losowymi próbami o wielko±ci n 2 z rozkªadu N p (µ 2, ) wówczas: posiada rozkªad : w konsekwencji otrzymujemy :
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przykªad 3 Dwie fabryki produkuj mydªo na ró»ne sposoby. Dysponujemy dwiema próbkami, po 50 kostek mydªa z ka»dej z fabryk i chcemy zbada, czy ró»ne sposoby produkcji prowadz do posiadania przez produkt ró»nych cech. W tym celu dokonano pomiarów dwóch cech: X 1 = ilo±ci piany oraz X 2 = nawil»enia. Dane przedstawia tabela: Chcemy wyznaczy przedziaª ufno±ci dla µ 1 µ 2.
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Mo»emy zauwa»y»e S 1 oraz S 2 s w przybli»eniu sobie równe, wi c rozs dnym wydaje si obliczenie wspólnej macierzy kowariancji: Elipsa ma ±rodek w punkcie x 1 x 2 = ( 1.9, 0.2). W kolejnym kroku wyliczymy warto±ci oraz wektory wªasne wspólnej macierzy kowariancji: wiec λ = (7 + / 49 36)/2.
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 W konsekwencji otrzymujemy»e λ 1 = 5.303 oraz λ 2 = 1.697, oraz wektory wªasne : [ ] [ ] 0.290 0.957 e 1 =, e 2 = 0.957 0.290 Korzystaj c z wniosku otrzymujemy : gdzie F 2,97(0.05) = 3.1. Elipsa rozpi ta jest na wektorach wªasnych e 1 oraz e 2, a o± wielka i o± maªa maj dªugo±ci wzdªu» tych wektorów dane wzorem:
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 proc iml; n1=50; n2=50; xbar1={8.3, 4.1}; xbar2={10.2, 3.9}; s1={2 1, 1 6}; s2={2 1, 1 4}; print xbar1; print xbar2; print s1; print S2; s_p=(49/98)*s1+(49/98)*s2; T2=T(xbar1-xbar2)*inv(((1/n1)+(1/n2))*s_p)*(xbar1-xbar2); print T2; call eigen(val,vec,s_p); print val; print vec; q1=finv(.95,2,n1+n2-2-1); print q1; fval=((1/n1)+(1/n2))*q1*(n1+n2-2)*2/(n1+n2-2-1); print fval; dl1=sqrt(val[1,1])*sqrt(fval); print dl1; dl2=sqrt(val[2,1])*sqrt(fval); print dl2; dbar=xbar1-xbar2; print dbar; quit;
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Wniosek Elipsa naszego przedziaªu ufno±ci jasno pokazuje»e µ 1 µ 2 = 0 nie nale»y do niej, wi c mo»emy wnioskowa»e obie metody produkcji kostki mydªa otrzymuj ró»ne wyniki. Wydaje si,»e obie metody produkuj mydªo o tym samym stopniu nawil»enia X 2, jednak»e mydªa otrzymane z drugiego procesu wytwarzaj wi cej piany X 1.
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Jednoczesne przedziaªy ufno±ci Mo»liwym jest wyprowadzenie jednoczesnych przedziaªów ufno±ci dla skªadowych wektora µ 1 µ 2. Przedziaªy te tworzy si rozwa»aj c wszystkie liniowe kombinacje ró»nic w wektorach warto±ci ±rednich. Przyjmuje si,»e dane z populacji posiadaj wielowymiarowy rozkªad normalny o wspólnej macierzy kowariancji Σ.
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Wniosek Niech c 2 = [(n 1 + n 2 2)p/(n 1 + n 2 p 1)]F p,n1 +n 2 p 1(α). Z prawdopodobie«stwem 1 α. a (X 1 X 2 ) ± c a ( 1 n 1 + 1 n 2 )S pooled a pokryje a (µ 1 µ 2 ) dla wszystkich a. W szczególno±ci µ 1i µ 2i b dzie pokryte przez (X 1i X 2i) ± c a ( 1 n 1 + 1 n 2 )s ii,pooled dla i = 1, 2,..., p
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przykªad Próbki wielko±ci n 1 = 45 i n 2 = 55 zostaªy zebrane od wªa±cicieli mieszka«w Wisconsin, kolejno: z i bez klimatyzacji. Zmierzono zu»ycie energii elektrycznej w kilowatogodzinach. Pierwsze dane przedstawiaj zu»ycie w lipcu w trakcie godzin szczytu, a drugie zu»ycie w lipcu w godzinach poza szczytem. Rezultaty s nast puj ce(zu»ycie poza szczytem jest wi ksze, poniewa» w miesi cu jest wi cej godzin poza szczytem ni» w jego trakcie):
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Znajdziemy 95% jednoczesne przedziaªy ufno±ci dla ró»nic w skªadowych wektorów ±rednich. Chocia» wariancje z próby wydaj si znacz co ró»ni, spróbujemy wyznaczy macierz poª czon wariancji i kowariancji. St d S pooled = n 1 1 n 1 + n 2 2 S 1 + n 2 1 n 1 + n 2 2 S 2 = oraz [ 10963.7 ] 21505.5 21505.5 63661.3 c 2 = (n 1 + n 2 2)p n 1 + n 2 p 1 F p,n 1 +n 2 p 1(α) = 98 2 97 F 2,97(0, 05) = 2, 02 3, 1 = 6, 26
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Z wektorem µ 1 µ = [µ 2 11 µ 21, µ 12 µ 22 ] 95% przedziaªy ufno±ci dla ró»nic w populacjach s nast puj ce: µ 11 µ 21 : (204, 4 130, 0) ± 6, 26 21, 7 µ 11 µ 21 127, 1 (w szczycie) µ 12 µ 22 : (556, 6 355, 0) ± 6, 26 ( 1 45 + 1 55 )10963, 7 ( 1 45 + 1 55 )63661, 3 774, 7 µ 12 µ 22 328, 5 (poza szczytem)
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Wnioskujemy,»e istnieje ró»nica pomi dzy zu»yciem energii elektrycznej w domach z i bez klimatyzacji. Ró»nica jest widoczna zarówno w godzinach szczytu, jak i poza nim. Elipsa 95% obszaru ufno±ci dla wektora µ 1 µ 2 jest wyznaczana przez warto±ci i wektory wªasne λ 1 = 71323, 5, e = [0, 336; 0, 942] 1 oraz λ 2 = 3301, 5, e = [0, 942; 0, 336]. 2 Poniewa» λ1 ( 1 + 1 )c n 1 n 2 = 71323, 5 ( 1 2 45 + 1 )6, 26 = 134, 3 55 oraz λ2 ( 1 + 1 )c n 1 n 2 = 3301, 5 2 ( 1 45 + 1 )6, 26 = 28, 9 55 Otrzymujemy elips dla wektora µ 1 µ 2. Poniewa» elipsa nie pokrywa wektora zerowego, statystyka T 2 odrzuca H 0 : µ 1 µ 2 = 0 na 5% poziomie istotno±ci.
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Jednoczesne przedziaªy ufno±ci Bonferroniego Jednoczesne 100(1 α) przedziaªy ufno±ci Bonferroniego dla p ró»nic w warto±ciach ±rednich populacji s dane µ 1i µ 2i : (x 1i x 2i) ± t n1 +n 2 2( α 2p ) ( 1 n 1 + 1 n 2 )s ii,pooled gdzie t n1 +n 2 2( α 2p ) jest górnym kwantylem rz du α 2p rozkªadu t-studenta z n 1 + n 2 2 stopniami swobody.
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Kiedy Σ 1 Σ 2, nie jeste±my w stanie znale¹ miary ódlegªo±ci"takiej jak T 2, której rozkªad nie zale»aªby od nieznanych Σ 1 oraz Σ 2. Przyjmujemy,»e macierze kowariancji s istotnie ró»ne, je±li zachodzi dowolna ró»nica typu σ 1,ii = 4σ 2,ii lub vice versa. Jednak»e dla du»ych prób n 1, n 2, poprzez centralne twierdzenie graniczne mo»emy unikn problemów spowodowanych ró»nymi macierzami kowariancji.
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Wniosek Niech wielko±ci prób n 1 q oraz n 2 p b d du»e. Wówczas elipsoida 100(1 α)% obszaru ufno±ci dla µ 1 µ 2 jest dana przez wszystkie wektory µ 1 µ 2 speªniaj ce [x 1 x 2 (µ 1 µ 2 )] [ 1 n 1 S 1 + 1 n 2 S 2 ] 1 [x 1 x 2 (µ 1 µ 2 )] χ 2 p(α) gdzie χ 2 p(α) jest górnym kwantylem rz du α rozkªadu chi kwadrat z p stopniami swobody. Równie» jednoczesne 100(1 α)% przedziaªy ufno±ci dla wszystkich kombinacji liniowych a (µ 1 µ 2 ) powstaj przez a (µ 1 µ 2 )nale» ce do a (x 1 x 2 ) ± χ 2 p(α) a ( 1 S 1 + 1 S 2 )a n 1 n 2
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Uwaga Je»eli n 1 = n 2 = n, to (n 1)/(n + n 2) = 1/2, wi c 1 S 1 + 1 S 2 = 1 n 1 n 2 n (S 1 + S 2 ) = (n 1)S 1 + (n 1)S 2 ( 1 n + n 2 n + 1 n ) = S pooled ( 1 n + 1 n ) Dla prób o takiej samej liczno±ci, procedura jest taka sama jak ta bazuj ca na poª czonej macierzy kowariancji. W analizie jednowymiarowej, znanym faktem jest, i» efekt nierówno±ci kowariancji jest mniejszy dla n 1 = n 2, a wi kszy kiedy n 1 jest znacznie mniejsze od n 2 (lub na odwrót).
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przykªad Przeanalizujemy dane dotycz ce zu»ycia energii z poprzedniego przykªadu, u»ywaj c podej±cia dla du»ych prób. Na pocz tek obliczamy [ ] 13825.3 23823.4 1 n 1 S 1 + 1 n 2 S 2 = 1 45 + 1 23823.4 73107.4 55 [ ] 464.17 886.08 = 886.08 2642.15 [ 8632.0 ] 19616.7 19616.7 55964.5
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przykªad 95% jednoczesne przedziaªy ufno±ci dla kombinacji liniowych [ ] a µ11 µ21 (µ 1 µ 2 ) = [1, 0] µ 12 µ22 oraz s postaci = µ 11 µ21 a (µ 1 µ 2 ) = [0, 1] = µ 12 µ22 [ ] µ11 µ21 µ 12 µ22 µ 11 µ21 : 74.4 ± 5.99 464.17czyli(21.7, 127.1) µ 12 µ22 : 201.6 ± 5.99 2642.15czyli(75.8, 327.4)
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przykªad Zauwa»my,»e przedziaªy te nieznacznie ró»ni si od przedziaªów wyznaczonych w poprzednim przykªadzie, gdzie zastosowano procedur ª czenia macierzy wariancji i kowariancji. Statystyka T 2 dla testu H 0 : µ 1 µ 2 = 0 wynosi: T 2 = [x 1 x 2 ] [ 1 S 1 + 1 S 2 ] 1 [x 1 x 2 ] = n 1 n 2 [ ] [ ] [ ] 204.4 130.0 464.17 886.08 204.4 130.0 = 556.6 355.0 886.08 2642.15 556.6 355.0 [ ] [ ] 59.874 20.080 74.4 = [74.4201.6](10 4 ) = 15.66 20.080 10.519 201.6
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Na poziomie α = 0.05 warto± krytyczna wynosi χ 2 (0.05) = 5.99, 2 i - jako»e T 2 = 15.66 > χ 2 (0.05, odrzucamy hipotez zerow. 2 Liniowa kombinacja prowadz ca do odrzucenia H 0 ma wektor wspóªczynników: Ró»nica w zu»yciu energii poza szczytem pomi dzy domami z klimatyzacj a domami bez niej bardziej przyczynia si do odrzucenia H 0 ni» ró»nica w zu»yciu energii w szczycie.
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przybli»enie rozkªadu T 2 dla populacji pochodz cych z rozkªadu normalnego kiedy wielko±ci prób nie s du»e Mo»emy sprawdza H 0 : µ 1 µ 2 = 0 gdy macierze kowariancji populacji nie s sobie równe nawet gdy wielko±ci prób nie s du»e, zakªadaj c,»e populacje pochodz z wielowymiarowego rozkªadu normalnego. Uzyskanie rezultatu wymaga, aby wielko±ci obu prób byªy wi ksze ni» p - liczba zmiennych. Wybrane podej±cie zale»y od przybli»enia rozkªadu statystyki T 2 = [X 1 X 2 (µ 1 µ 2 )] [ 1 n 1 S 1 + 1 n 2 S 2 ] 1 [X 1 X 2 (µ 1 µ 2 )]
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Jednak»e zamiast u»ycia przybli»enia chi kwadrat, aby otrzyma warto± krytyczn dla testowania h0, zalecane przybli»enie dla mniejszych prób jest dane przez: T 2 = vp v p + 1 F p,v p+1 gdzie ilo± stopni swobody v jest szacowana za pomoc macierzy kowariancji próby u»ywaj c zale»no±ci: gdzie min(n 1, n 2 ) v n 1 + n 2
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Dla prób ±redniej wielko±ci i dwóch populacji z rozkªadu normalnego, odrzucamy H 0 : µ 1 µ 2 = 0 w te±cie na równo± warto±ci ±rednich na poziomie istotno±ci α, je»eli [x 1 x 2 (µ 1 µ 2 )] [ 1 n 1 S 1 + 1 n 2 S 2 ] 1 [x 1 x 2 (µ 1 µ 2 )] > vp v p + 1 F p,v p+1(α) gdzie v jest dane poprzednim wzorem.
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Przykªad Chocia» wielko±ci prób dotycz cych zu»ycia energii w Wisconsin s dosy du»e, u»yjemy tych danych i wylicze«z poprzedniego przykªadu aby przedstawi obliczenia prowadz ce do przybli»enia rozkªadu T 2 kiedy macierze kowariancji populacji nie s równe. Na pocz tku obliczamy:
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Korzystaj c z poprzednio uzyskanych wyników: Kolejno:
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Kolejno Szacowana za pomoc wzoru liczba stopni swobody
Zaªo»enia o strukturze danych Przykªad 3 Jednoczesne przedziaªy ufno±ci Sytuacja dla dwóch prób, gdy Σ 1 Σ 2 Przybli»enie rozkªadu T 2 Oraz warto± krytyczna dla poziomu istotno±ci α = 0, 05 Warto± statystyki testowej wynosi T 2 = 15, 66, dlatego te» H 0 : µ 1 µ 2 = 0 jest odrzucana na poziomie istotno±ci α = 0, 05. Uzyskali±my taki sam wniosek jak przy u»yciu procedury dla du»ych prób opisanej w poprzednim przykªadzie.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Cz sto porównujemy ze sob wi cej ni» dwie populacje. Wówczas próby losowe ka»dej z g populacji indeksujemy nast puj co: informuje nas, czy wektory warto±ci ±rednich populacji s takie same, a je±li nie s - które z ich skªadowych ró»ni si najbardziej.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Zaªo»enia o strukturze danych 1 X l 1, X l 2,..., X lnl jest prób o rozmiarze n l ze ±redni µ l, l = 1, 2,..., g. Próby pochodz ce z ró»nych populacji s wzgl dem siebie niezale»ne. 2 Wszystkie populacje maj wspóln macierz kowariancji Σ 3 Ka»da populacja posiada wielowymiarowy rozkªad normalny
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Podsumowanie: ANOVA Dla bada«w jednym wymiarze, zakªadamy,»e X l 1, X l 2,..., X lnl s prób z populacji o rozkªadzie normalnym z parametrami (µ l, σ 2 ), l = 1, 2,..., g oraz»e próby losowe s niezale»ne. Mimo i» hipoteza zerowa o równo±ci warto±ci ±rednich mo»e by przedstawiona w postaci µ 1 = µ 2 =...µ g =, wygodnie jest zapisa µ l jako sum - ogólnej ±redniej µ oraz skªadnika odpowiadaj cego za efekt zabiegu w populacji l, oznaczanego τ l. Taka reparametryzacja: µ l = µ + τ l
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 prowadzi do przedstawienia hipotezy zerowej w nast puj cy sposób: H 0 : τ 1 = τ 2 =... = τ g = 0 Obserwacje z próby przedstawiamy wówczas jako: x lj = x + (x l x) + (x lj x l ) gdzie x jest estymatorem µ, τ l = x l x jest estymatorem τ l, a x lj x l jest estymatorem bª du losowego.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Przykªad Rozwa»my nast puj ce niezale»ne próby losowe: Obliczaj c kolejne ±rednie otrzymujemy zapis macierzowy: Zagadnienie równo±ci warto±ci ±rednich rozstrzygamy rozpatruj c stosunek macierzy efektu zabiegu do macierzy bª dów - je±li jest on wzgl dnie du»y, nale»y odrzuci hipotez zerow.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Dla ka»dej z macierzy obliczamy sum kwadratów warto±ci jej elementów, kolejno: Sumy kwadratów elementów macierzy speªniaj równanie SS obs = SS mean + SS tr + SS res
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Analiza wariancji polega na porównaniu wzgl dnych wielko±ci SS tr oraz SS res - je»eli H 0 jest prawdziwa, wielko±ci te powinny by sobie bliskie. B dziemy je testowa za pomoc F-testu - na poziomie istotno±ci α odrzucamy H 0 : τ 1 = τ 2 =... = τ g = 0, je±li zachodzi nierówno± : gdzie F g 1, n l g (α) jest górnym α kwantylem rozkªadu F z g 1 i n l g stopniami swobody.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Dla naszego przykªadu, tabela ANOVA przyjmuje posta : Obliczamy warto± F:
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Poniewa» F = 19, 5 > F 2,5(0, 01) = 13.27, mamy podstawy do odrzucenia hipotezy zerowej o braku efektów zabiegu na poziomie istotno±ci α = 1%.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Wielowymiarowa Analiza Wariancji () Model dla porównywania wektorów warto±ci ±rednich z g popuacji ma posta : X lj = µ + τ l + e lj, j = 1, 2,..., n l, l = 1, 2,..., g. gdzie e lj jest niezale»n zmienn losow z rozkªadu N p (0, ), µ jest ogóln ±redni natomiast τ l reprezentuje l-ty efekt zabiegu speªniaj cy g n l=1 lτ l. Wektor obserwacji mo»e by przedstawiony w nast puj cej postaci: x lj = x + (x l x) + (x lj x l ) x - ogólna ±rednia z próby x l - ±rednia dla populacji l
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Analogicznie jak dla ANOVA, hipoteza zerowa: H 0 : τ 1 = τ 1 =... = τ g = 0 jest testowana poprzez porównanie wzgl dnych wielko±ci SS tr oraz SS res.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Formalnie obliczenia mo»emy podsumowa jako tabelk
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Test H 0 : τ 1 = τ 1 =... = τ g = 0 dotyczy ogólnych wariancji. Odrzucamy H 0, gdy poziom jest mniejszy od warto±ci krytycznej. Wªa±ciwe u»ycie λ* w zale»no±ci od sytuacji jest przedstawione w poni»szej tabeli :
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Wilks lambda mo»e by tak»e wyra»one jako funkcja warto±ci wªasnych λ 1, λ 2,..., λ g macierzy W 1 B jako : gdzie s=min(p,g-1).
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Przykªad Zadanie Do obserwacji z poprzedniego zadania dodano jedn zmienn. Wyniki przedstawiono poni»ej. Zbadamy równo± wektorów warto±ci ±rednich za pomoc. n 1 = 3, n 2 = 2, n 3 = 3.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Z poprzednich oblicze«wiemy»e : Ponadto : SS obs = SS mean + SS tr + SS tr 216 = 128 + 78 + 10 wi c SS cor = SS obs SS mean = 216 128 = 88
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Powtarzaj c operacj dla drugiej zmiennej,otrzymujemy : oraz SS obs = SS mean + SS tr + SS tr 272 = 200 + 48 + 25 wi c SS cor = SS obs SS mean = 272 200 = 72
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Aby wprowadzi dane do tabeli, musimy wykona obliczenia iloczynów skalarnych: Mean : 4 5 + 4 5 +... = 8 4 5 = 160 Treatment : 3 4 ( 1) + 2 ( 3) ( 3) + 3 ( 2) 3 = 12 Residual : 1 ( 1) + ( 2) ( 2) + ( 1) 2 +... = 1 Total : 9 3 + 6 2 + 9 7 + 0 4 +... = 149 SS cor = total mean = 149 160 = 11
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Wprowadzimy dane do tabeli :
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Otrzymujemy nast puj c równo± : [ ] 88 11 = 11 88 [ ] [ ] 78 12 10 1 + 12 48 1 24 U»ywaj c wzoru na lambd Wilksa: Przeprowadzamy test: H 0 : τ 1 = τ 2 = τ 3 = 0 H 1 : conajmniej jedna τ l jest ró»na od 0.
Porównujemy warto± statystyki: Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 z kwantylem rozkªadu F-Snedecora z v 1 = 2(g 1) = 4 oraz v 2 = 2( n l g 1) = 8 stopniami swobody. F 4,8(0.01) = 7.01 Wniosek Poniewa» 8.19 > F 4,8(0.1) = 7.01, odrzucamy hipotez zerow na poziomie α = 0.01 oraz wnioskujemy»e ró»nice w efektach zabiegów istniej.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Uwaga Dla modelu X lj = µ + τ l + e lj, gdzie j = 1, 2,..., n l oraz l = 1, 2,..., g na poziomie istotno±ci (1 α) mamy: τ ki τ li nale» do dla wszystkich skªadników i = 1, 2,..., p oraz dla wszystkich ró»nic l < k = 1, 2,..., g. gdzie w ii jest i-tym diagonalnym elementem W.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Testowanie równo±ci macierzy kowariancji Jednym z zaªo»e«, gdy porównujemy wielowymiarowe wektory ±rednie jest»e macierze kowiariancji ró»nych populacji s sobie równe. Gdy mamy g populacji, wówczas hipoteza zerowa : H 0 : 1 = 2 =... = g = Hipoteza alternatywn : przynajmniej dwie macierze kowariancji s ró»ne.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Test Boxa na równo± macierzy kowariancji gdzie p - ilo± zmiennych, g - ilo± grup. Wówczas : ma rozkªad χ 2 z stopniami swobody. Odrzucamy H 0 na poziomie α gdy :
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Dwukierunkowa wielowymiarowa analiza wariancji Okre±lamy dwukierunkowy model ustalonych efektów dla wektora, który pozwoli nam zbada równie» interakcj zabiegów: X lkr = µ + θ l + β k + γ lk + e lkr l = 1, 2,..., g, k = 1, 2,..., b, r = 1, 2,..., n Gdzie µ to ogólna ±rednia, θ l to wpªyw zabiegu pierwszego, β k to wpªyw zabiegu drugiego, a γ lk to interakcja mi dzy zabiegami. Zakªadamy,»e e lkr ma rozkªad normalny N p (0, ) Wektor x lkr mo»emy zapisa w nast puj cej formie : x lkr = x + (x l x) + (x k x) + (x lk x l x k + x) + (x lkr x lk ) Wówczas tabela przyjmuje nast puj c posta.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Przeprowadzamy testy na istnienie efektów interakcji, oraz zabiegów - pierwszego i drugiego. Obliczamy statystyki lambdy Wilksa, a nast pnie porównujemy je z kwantylami rozkªadu chi kwadrat z odpowiedni ilo±ci stopni swobody. Test na efekty interakcji: Obliczamy warto± statystyki: Hipoteza zerowa jest odrzucana je±li zachodzi nierówno± :
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Test na efekt pierwszego zabiegu: Obliczamy warto± statystyki: Hipoteza zerowa jest odrzucana je±li zachodzi nierówno± :
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Test na efekt drugiego zabiegu: Obliczamy warto± statystyki: Hipoteza zerowa jest odrzucana je±li zachodzi nierówno± :
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Przykªad 4 Badano optymalne warunki dla wytªaczania lmu u»ywaj c technologii Evolutionary Operation. Zbadano trzy zmienne - odporno± na rozerwanie, poªysk oraz nieprzezroczysto±. Zostaªy one zmierzone na dwóch poziomach czynników - stopnia wyciskania oraz ilo±ci dodatków. Pomiary powtórzono pi ciokrotnie. Za pomoc dwutorowej chcemy zbada wpªyw czynników na uzyskane badania oraz ich natur. Dane przedstawia tabela.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 Manova table
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 W te±cie na interakcj nie odrzucamy hipotezy zerowej o braku efektów interakcji. W testach na efekty czynników 1 i 2 odrzucamy hipotez zerow i wnioskujemy,»e wpªywaj one na wyniki. Wnioskujemy,»e zarówno zmiana w stopniu wyciskania jak i ilo± dodatków maj wpªyw na wyniki, ponadto z powodu braku interakcji wpªyw ten ma charakter addytywny.
Podsumowanie: ANOVA Wielowymiarowa Analiza Wariancji () Testowanie równo±ci macierzy kowariancji Dwukierunkowa wielowymiarowa analiza wariancji Przykªad 4 PROC GLM DATA=dane1; CLASS change amount; MODEL x1-x3 = change amount change*amount / P SOLUTION; H=change*amount /PRINTH PRINTE; H=change / printh printe; H=amount / printh printe; run;