Badanie zależności cech

Transkrypt

1 PODSTAWY STATYSTYKI 1. Teoria prawdopodobieństwa i element kombinatorki. Zmienne losowe i ich rozkład 3. Populacje i prób danch, estmacja parametrów 4. Testowanie hipotez 5. Test parametrczne (na przkładzie testu t) 6. Test nieparametrczne (na przkładzie testu ) 7. Zależność cech - korelacja liniowa i rangowa 8. Zależność cech - regresja prosta 9. Analiza wariancji

2 Badanie zależności cech 1. Co to jest korelacja?. Jak określić wielkość zależności cech? 3. Współcznnik korelacji liniowej (Pearsona) obliczanie testowanie 4. Współcznnik korelacji rang (Spearmana) obliczanie testowanie

3 Populacja i próba Populacja Próba pobieranie wnioskowanie Dotąd: Rozpatrwaliśm POPULACJĘ jako zbiór wartości jednej cech (badaliśm jej rozkład, szacowaliśm parametr, testowaliśm hipotez) Ale: Populacja biologiczna to zbiór osobników mającch wiele cech

4 Populacja wielocechowa Osobnik Populacja Cecha wdajność mleka zawartość tłuszczu długość laktacji tempo wzrostu przrost dzienn wdajność rzeźna wsokość w kłębie skuteczność inseminacji

5 Zależność cech Osobnik Populacja Cecha X Cecha Y Poszczególne cech mogą bć współzależne Zależność cech można określić matematcznie

6 Zależność cech współcznnik korelacji Zależność statstczna zmiennch losowch nosi nazwę KORELACJI Wielkość (siłę) zależności dwóch zmiennch losowch (np. cech) mierz WSPÓŁCZYNNIK KORELACJI Miarą zależności dwóch cech ilościowch jest najczęściej WSPÓŁCZYNNIK KORELACJI LINIOWEJ PEARSONA Karl Pearson ( ) angielski matematk, prekursor statstki matematcznej

7 Jak zbadać i określić korelację dwóch cech? Przkładow zbiór pomiarów (uporządkowan wg wartości cech X) Nr osobnika Wartość cech X 10,0 1,5 15,0 17,5 0,0,5 5,0 7,5 30,0 3,5 35,0 37,5 Wartość cech Y 8,5 11,4 14,5 9,6 13,9 17,6 16,1 16,7 1,7 15, 19,9 0,0 Zależność cech współcznnik korelacji liniowej Ten sam zbiór przedstawion graficznie (na osiach x i wartości cech X i Y) Wartości Y nr Wartości X

8 Zależność cech Czerwone punkt wskazują odpowiadające sobie wartości cech X i cech Y u każdego osobnika Widzim LINIOWY charakter zależności Jeśli zależność wgląda na liniową, możem określić jej wielkość prz pomoc współcznnika korelacji Pearsona

9 x x x x x r ). cov( ), cov( gdzie: 1 ) ( 1 ) ( n n x x i i x, 1 ) )( ( ), cov( n x x x wariancje kowariancja (n liczba par obserwacji w próbie) Zależność cech współcznnik korelacji liniowej Współcznnik korelacji liniowej (Pearsona) - definicja

10 Zależność cech współcznnik korelacji liniowej Współcznnik korelacji liniowej (Pearsona) - obliczanie r x cov( x, x ) n n i1 x x i n x x i i1 i1 i i Mierz siłę zależności dwóch zmiennch losowch X i Y Pod warunkiem, że: zmienne są ciągłe mają rozkład normaln zależność jest liniowa r x przjmuje wartości z przedziału [ -1, 1 ]

11 Zależność cech współcznnik korelacji liniowej Współcznnik korelacji przjmuje wartości z przedziału [ -1, 1 ] r x = 1 15 r x = r x = r x = Wartości bliskie 0 brak zależności; wartości bliskie 1 lub -1 silna zależność dodatnia lub ujemna

12 OBLICZANIE współcznnika korelacji liniowej Zależność cech współcznnik korelacji liniowej WZROST (cm) DŁ. STOPY (cm) Przkład: Badam zależność wzrostu i rozmiaru obuwia Pomiar w próbie 10 osób (N =10) Obliczenia: r x 10 x x i i i xi x i i1 i1 0,9

13 Zależność cech współcznnik korelacji liniowej TESTOWANIE współcznnika korelacji liniowej (bo otrzmaliśm estmator r) 1. Hipotez H 0 : r x = 0 (nie ma zależności); H A : r x 0 (jest zależność). Poziom istotności MAX = 0,05 3. Statstka t r N 1 r ~ tn (N liczba par obserwacji) 4. Obliczenie w próbie: t = 6,64 5. Dla N = 8 stopni swobod, t = 0, Odrzucam H 0 i przjmujem H A (Wstępuje wsoka dodatnia korelacja międz wzrostem a długością stop)

14 Zależność cech współcznnik korelacji liniowej Diagram zależności wzrostu i długości stop w próbie: Zależność jest liniowa, więc można bło posłużć się Pearsonem A co robić, jeśli zależność nie jest liniowa?!

15 Zależność cech współcznnik korelacji liniowej r x = 0,816 r x = 0,816 r x = 0,816 r x = 0,816 Na upartego można obliczać współcznniki korelacji liniowej, ale nie będą miarodajne

16 Zależność cech współcznnik korelacji rang Jeśli zależność wartości zmiennch nie jest liniowa w próbie są wartości odstające rozkład nie przpomina normalnego można wkorzstać nie wartości cech, tlko ich miejsce w próbie po uporządkowaniu (tzw. rangę). Siłę zależności takich zmiennch mierz WSPÓŁCZYNNIK KORELACJI RANG SPEARMANA Charles Spearman ( ) angielski pscholog

17 Współcznnik korelacji rang (Spearmana) Zależność cech współcznnik korelacji rang grecka litera rho, cztam ro x 6 i1 1 N n N d i 1 d - różnica w rankingu według zmiennej X i według zmiennej Y Mierz siłę zależności dwóch zmiennch losowch X i Y Nie ma wmagań, co do ciągłości wartości i normalności rozkładu, a zwłaszcza co do liniowej zależności zmiennch W obliczeniach wkorzstuje się nie wartości zmiennch, lecz ich kolejn numer (rangę) w uporządkowanej próbie x przjmuje wartości z przedziału [ -1, 1 ]

18 Zależność cech współcznnik korelacji rang Kot A Miejsce wg sędziego 1 11 Miejsce wg sędziego 10 Przkład: B C D E F Na wstawie kotów rasowch 0 kotów uzskało ocen od dwóch sędziów Liczba zdobtch punktów wznaczała miejsce na liście zwcięzców G H Cz ocen sędziów są podobne? I J K 3 L 0 7 M 1 5 N 1 8 O 17 0 P 5 19 R 6 1 S 9 9 T W 19 15

19 Zależność cech współcznnik korelacji rang 646 Suma L W C O G F T J N A I S D E R P B K 4-4 H M d kwadrat różnica d Miejsce wg s. Miejsce wg s. 1 Kot 0,49 1) 0( N N d n i i x OBLICZANIE współcznnika korelacji rang (Spearmana)

20 Zależność cech współcznnik korelacji rang TESTOWANIE współcznnika korelacji rang (bo otrzmaliśm estmator) 1. Hipotez H 0 : x = 0 (nie ma zależności) H A : x 0 (jest zależność). Poziom istotności MAX = 0,05 3. Jeśli próba jest liczna (N = 0 lub więcej) można użć statstki t N 1 ~ tn 4. Obliczenie dla prób t =,38 5. Dla N = 18 stopni swobod, t = 0,08 6. Odrzucam H 0 i przjmujem H A (Test wkazał, że istnieje związek międz ocenami sędziów)

21 Zależność cech współcznniki korelacji Poznane współcznniki korelacji prz zależności liniowej, nieliniowej i danch odstającch (kwartet Anscombe a) r x = 0,816 x = 0,818 r x = 0,816 x = 0,691 r x = 0,816 x = 0,991 r x = 0,816 x = 0,500

22 Badanie zależności cech - podsumowanie 1. Co to jest korelacja?. Jak określić wielkość zależności cech? 3. Współcznnik korelacji liniowej (Pearsona) obliczanie testowanie 4. Współcznnik korelacji rang (Spearmana) obliczanie testowanie

23 PODSTAWY STATYSTYKI 1. Teoria prawdopodobieństwa i element kombinatorki. Zmienne losowe i ich rozkład 3. Populacje i prób danch, estmacja parametrów 4. Testowanie hipotez 5. Test parametrczne (na przkładzie testu t) 6. Test nieparametrczne (na przkładzie testu ) 7. Zależność cech - korelacja liniowa i rangowa 8. Zależność cech - regresja prosta 9. Analiza wariancji

24 Zależność zmiennch KORELACJA określanie sił zależności (podobieństwa) zmiennch zależnch (prz pomoc współcznnika korelacji) Jeśli zmienne są zależne można próbować przewidzieć wartości jednej zmiennej na podstawie wartości przjmowanch przez drugą REGRESJA (a) określanie modelu zależności zmiennch i (b) wkorzstanie tego modelu do przewidwania wartości nieznanch na podstawie wartości obserwowanch (zmierzonch) Taki matematczn model zależności nosi nazwę równania regresji

25 Wkorzstanie zależności cech - regresja 1. Regresja liniowa (prosta) Równanie regresji Estmacja współcznników regresji Przkład równań regresji. Regresja nieliniowa i wielokrotna (przkład) 3. Dopasowanie równania regresji

26 Wkorzstanie zależności cech - regresja WZROST X STOPA Y Zależność cech X i Y ma charakter liniow Cz można b odgadnąć (przewidzieć) długość stop człowieka, jeśli znam jego wzrost?

27 Wkorzstanie zależności cech - regresja Żeb przewidwać wartości Y na podstawie wartości X trzeba znaleźć linię prostą jak najlepiej dopasowaną do zbioru punktów Wzór określając tę prostą w układzie współrzędnch to RÓWNANIE REGRESJI matematczn model zależności cech Y od cech X

28 Wkorzstanie zależności cech - regresja NACHYLENIE RÓWNANIE REGRESJI określa kąt nachlenia prostej do osi X oraz punkt przecięcia z osią Y

29 Wkorzstanie zależności cech - regresja Równanie regresji Współcznnik regresji b( x x) Przekształcenie równania regresji b( x x) bx bx bx bx a bx

30 Wkorzstanie zależności cech - regresja Równanie regresji a bx a bx b? wraz woln, punkt przecięcia z osią wsp. regresji, tangens kąta nachlenia prostej Współcznnik regresji musi bć taki, żeb dopasowanie modelu (linii) bło jak nalepsze!

31 Wkorzstanie zależności cech - regresja A jak wbrać linię najlepiej dopasowaną do zbioru punktów? METODĄ NAJMNIEJSZYCH KWADRATÓW

32 Wkorzstanie zależności cech - regresja wartość rzeczwista wartość teoretczna ŷ Metoda najmniejszch kwadratów taki sposób obliczeń, żeb suma kwadratów odchleń wartości rzeczwistch od teoretcznch bła minimalna (opart na rachunku różniczkowm)

33 Wkorzstanie zależności cech - regresja a bx Prosta regresji będzie dopasowana metodą najmniejszch kwadratów, jeśli współcznnik regresji obliczm według wzoru: b cov( x, x ) N i1 x x N i x x i i1 i Definicja współcznnika regresji liniowej

34 Wkorzstanie zależności cech - regresja WZROST X STOPA Y Skonstruujem równanie regresji dla naszego przkladu

35 Wkorzstanie zależności cech - regresja WZROST X STOPA Y Obliczam odchlenia poszczególnch wartości od średnich, obliczam iloczn i kwadrat odchleń, sumujem; obliczam b: x 175,3 6,3 b N x x i i i1 N xi x i1. Obliczam wraz woln: a bx 11,15 3. Uzskujem równanie regresji: 11,15 0, 1x 0,1

36 Wkorzstanie zależności cech - regresja ,1x 11, Wstawiając w równaniu różne wartości wzrostu (x) otrzmujem odpowiadajace im teoretcznie długości stop ()

37 Wkorzstanie zależności cech - regresja Związek współcznników regresji i korelacji liniowej b cov( x, x ) r x bo r cov( x, x ) Współcznnik regresji informuje, o ile zmieni się wartość zmiennej, jeśli wartość zmiennej x zmieni się o 1 zmienna objaśniana, zmienna zależna, zmienna nieznana (niedostępna, niemierzona, nieobserwowana) x zmienna objaśniająca, zmienna niezależna (znana, dostępna, obserwowana, zmierzona)

38 Wkorzstanie zależności cech - regresja Wielomian 1. stopnia Regresja nie musi bć zawsze prostoliniowa to najprostsz przpadek ogólnej regresji wielomianowej a bx. stopnia 3. stopnia a b x 1 b x a b x 3 1 b x b3 x

39 Wkorzstanie zależności cech - regresja Regresja wielokrotna pozwala przewidwać na podstawie kilku powiązanch zmiennch x 1, x x n Waga Z 66 Wzrost X 158 Stopa Y 4 a b x b 1 z Żeb uzskać współcznniki regresji cząstkowej tworz się macierze zależności zmiennch O, ja cież! Macierz! Powiedz lepiej, jak sprawdzić dopasowanie naszej prostej regresji!

40 Wkorzstanie zależności cech - regresja Ocena DOPASOWANIA regresji wartość rzeczwista ˆ 0,1x 11,15 wartość teoretczna ŷ n ˆ i i i1 n i1 zmienność wartości teoretcznch zmienność wartości rzeczwistch

41 n ˆ i i i1 Wkorzstanie zależności cech - regresja Ocena DOPASOWANIA regresji n i1 zmienność wartości teoretcznch zmienność wartości rzeczwistch WSPÓŁCZYNNIK DETERMINACJI R n i1 n i i1 ˆ i informuje, jaka część obserwowanej zmienności została wjaśniona przez równanie regresji przjmuje wartości od 0 do 1; im bliższ 1 tm lepsze dopasowanie modelu regresji

42 Wkorzstanie zależności cech - regresja Ocena dopasowania regresji WZROST X STOPA Y ˆ 0,1x 11, R n i1 n i1 ˆ i i 0,85 Suuuper dopasowanie

43 Wkorzstanie zależności cech - regresja Ocena dopasowania regresji zawsze warto przedstawić dane graficznie! 3 0, 5x Niedopasowanie widać gołm okiem

44 Zależność zmiennch - podsumowanie KORELACJA określanie sił zależności (podobieństwa) zmiennch zależnch (prz pomoc współcznnika korelacji) Jeśli zmienne są zależne można próbować przewidzieć wartości jednej zmiennej na podstawie wartości przjmowanch przez drugą REGRESJA (a) określanie modelu zależności zmiennch i (b) wkorzstanie tego modelu do przewidwania wartości nieznanch na podstawie wartości obserwowanch (zmierzonch) Taki matematczn model zależności nosi nazwę równania regresji

45 Badanie zależności cech - podsumowanie 1. Co to jest korelacja?. Jak określić wielkość zależności cech? 3. Współcznnik korelacji liniowej (Pearsona) obliczanie testowanie 4. Współcznnik korelacji rang (Spearmana) obliczanie testowanie

46 Wkorzstanie zależności cech - podsumowanie 1. Regresja liniowa (prosta) Równanie regresji Estmacja współcznników regresji Przkład równań regresji. Regresja nieliniowa i wielokrotna (przkład) 3. Dopasowanie równania regresji