Statystyka. Wykład 9. Magdalena Alama-Bućko. 24 kwietnia Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

Transkrypt

1 Statystyka Wykład 9 Magdalena Alama-Bućko 24 kwietnia 2017 Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

2 Tematyka zajęć: Wprowadzenie do statystyki. Analiza struktury zbiorowości miary położenia miary zmienności miary asymetrii miary koncentracji. Analiza współzależności zjawisk. Analiza dynamiki zjawisk. Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

3 X, Y - dwie cechy, do których chcemy dopasować pewna funkcję opisujac a zależność między nimi Zależność korelacyjna między cechami oznaczała, że zmiana wartości zmiennej niezależnej powoduje ściśle określona zmianę wartości średniej zmiennej zależnej (objaśnianej). Funkcja regresji jest pewna matematyczna funkcja, która stanowi przybliżenie faktycznej zależności. Jeśli X - zmienna niezależna, a Y - zmienna zależna (opisywana), to ŷ i = f (x i ), gdzie ŷ i - oczekiwana wartość zmiennej Y dla X = x i. Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

4 X - zmienna niezależna, Y - zmienna zależna (opisywana), to ŷ i = f (x i ), gdzie ŷ i - oczekiwana wartość zmiennej Y dla X = x i. zaobserwowane wartości y i odchylaja się od funkcji regresji ŷ i o pewna wartość e i, czyli y i = ŷ i + e i. Wyrażenia e i nazywamy resztami, a pojawiaja się one: na skutek czynników losowych pod wpływem cech nie uwzględnionych w badaniu. Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

5 dane: (x i, y i ), i = 1, 2,..., n szukana funkcja y = f (x) jest "najlepiej" dopasowana do danych Metoda najmniejszych kwadratów suma kwadratów odchyleń odległości zaobserowanych wartosci y i od wartości teoretycznych ŷ i ma być najmniejsza, tzn. (y i ŷ i ) 2 min linowa postać funkcji regresji i y = bx + a zmieniajac wartość x o jedna jednostkę, zmiana wartości y następuje zawsze o tyle samo (o b jednostek). Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

6 Obliczanie parametrów regresji liniowej postać prostej regresji (tzn. współczynniki) zależa od konkretnych danych ( dla innego zestawu danych postać może być inna!!!) ŷ = a + b x b jest współczynnikiem regresji wartosci a i b obliczane na podstawie obserwacji: (x i, y i ), i = 1, 2,..., n 1 n n x i y i x y (x i x)(y i y) n b = 1 n i=1 n i=1 x 2 i (x) 2 = i=1, a = y b x. n (x i x) 2 i=1 Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

7 wyrażenie określajace b można zapisać nieco inaczej b = n (x i x)(y i y) i=1 = n (x i x) 2 i=1 1 n n (x i x)(y i y) i=1 1 n = n (x i x) 2 i=1 cov(x, y) s 2 x Wyrażenie w liczniku współczynnika b to kowariancja cech X i Y cov(x, y) = 1 n n (x i x)(y i y). i=1 cov(x, y) jest pewna miara zależności między cechami cov(x, x) = s 2 x, cov(y, y) = s 2 y r xy = cov(x, y) s x s y Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

8 Uwaga jeżeli znamy współczynnik korelacji liniowej Pearsona oraz średnie i odchylenia stadardowe, to współczynniki regresji prostej można obliczyć ze wzorów: ŷ = b x + a b = r xy sy s x a = y b x. Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

9 Zadania z Wykładu 6 Zadanie 1 Zaobserwowano następujace wartości wieku mężczyzn (X) i kobiet (Y) zawierajacych zwiazek małżeński (w latach). X Y r xy = r = r 2 xy = = = 68% ŷ = 0, 48x + 13, 28 x- wiek mężczyzny, ŷ- średni wiek kobiety Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

10 Zadania z Wykładu 6 Zadanie 2 Zbadano zależność między stażem pracy (X), a wydajnościa pracownika (Y) w dużym przedsiębiorstwie. Wylosowano w sposób niezależny stu pracowników. Staż Liczba sztuk na godzinę r xy = x staż pracy, y- wydajność ŷ = 3, 24 x + 14, 6 Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

11 Jakość dopasowywania krzywej regresji do danych rzeczywistych określamy za pomoca: odchylenie standardowe składnika resztowego: n Se 2 i=1 = (y i ŷ i ) 2 n, S e = S 2 i=1 e = (y i ŷ i ) 2 n 2 n 2 informuje o średnim odchyleniu wartości empirycznych od teoretycznych. współczynnik determinacji: n R 2 = 1 ϕ 2 i=1 = (ŷ i y) 2 n i=1 (y i y) 2 jaka część cechy zależnej jest wyjaśniona kształtowaniem się cechy niezależnej. współczynnik zbieżności (indeterminacji): n ϕ 2 i=1 = (y i ŷ i ) 2 n i=1 (y i y) 2 jaka część cechy zależnej jest wywołana działaniem czynników losowych. Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

12 Własność Ponieważ dla korelacji liniowej zachodzi R 2 = r 2 xy, to odchylenie standardowe składnika resztkowego w przypadku regresji liniowej może być liczona również ze wzoru S e = s y 1 rxy. 2 Szczególne przypadki gdy r xy = 0, to S e = s y gdy r xy = 1, to S e = 0 Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

13 Przykład Do danych za pomoca programu Excel zostały dopasowane różne typy funkcji : "edytor" wykresu linia trendu wybór funkcji (możliowość podania równania i wyliczenia R 2 ) Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

14 Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

15 Uzyskaliśmy zatem następujace wyniki: regresja wykładnicza R 2 = regresja wielomianowa st.2: R 2 = regresja wielomianowa st.3: R 2 = najlepsze dopasowanie regresja liniowa: R 2 = najgorsze dopasowanie regresja logarytmiczna: R 2 = regresja potęgowa: R 2 = Uwagi Excel potrafi wyznaczyć wzory funkcji różnych typów najlepiej dopasowanych do obserwacji nie znamy ogólnych jawnych postaci tych wzorów!!! podałam jawne (ogólne) wzory jedynie na współczynniki regresji liniowej. Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

16 Dotychczas rozważaliśmy przypadek, gdy x- zmienna niezależna a y- zmienna zależna. Równanie regresji w tym przypadku: ŷ = bx + a. Wprowadźmy indeksy y we współczynnikach a i b tak, by było dla nas jasne, że sa to współczynniki prostej określajacej ŷ, czyli: gdzie (przypominamy): ŷ = b y x + a y, b y = r xy sy s x, a y = y b x. Często można spotkać się z zapisem ( może być również bez e): ŷ = b y x + a y + e (jakaś liczba) (jakaś liczba) (jakaś liczba) Czym sa liczby zapisane pod spodem w nawiasach? Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

17 ŷ = b y x + a y + e (S(b y )) (S(a y )) (S e ) S(b y ) i S(a y ) to błędy średnie szacowania odpowiednich parametrów funkcji regresji liczymy je ze wzorów: S(b y ) = S e, S(a y ) = S(b y ) 1 s x n n n i=1 x 2 i S e oznacza poznane wcześniej odchylenie resztkowe, które jest określone wzorem: n S e = Se 2 i=1 = (y i ŷ i ) 2. n 2 Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

18 S(b y ) = S e, S(a y ) = S(b y ) 1 s x n n n i=1 x 2 i. Oznacza to, że przy szacowaniu parametrów regresji liniowej na podstawie wylosowanej próby mylimy się średnio o ±S(b y ) przy twierdzeniu, że parametr b y przyjmuje taka sama wartość w całej populacji. ±S(a y ) przy twierdzeniu, że parametr a y przyjmuje taka sama wartość w całej populacji. Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

19 Przykład Szacujac parametry regresji liniowej otrzymaliśmy oraz średnie błędy tych przybliżeń: Mamy zatem zapis: a = 0, 88, b = 0, 105 S(b y ) = 0, 008, S(a y ) = 5, 28 ŷ = 0, 105 x + 0, 88 (0, 008) (5, 28) wyraz wolny nie jest oszacowany precyzyjnie (bardzo duży bład!!!) precyzja szacowania współczynnika regresji jest wystarczajaca Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

20 Y - zmienna niezależna, X- zmienna objaśniana Rozważmy teraz gdzie Uwaga b x = 1 n 1 n n x i y i x y i=1 n i=1 y 2 i (y) 2 = ˆx = b x y + a x n (x i x)(y i y) i=1, a x = x b x y. n (y i y) 2 jeżeli znamy współczynnik korelacji liniowej Pearsona oraz średnie i odchylenia stadardowe, to współczynnik b można obliczyć ze wzoru: b x = r xy sx s y. i=1 Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

21 Jeżeli znamy wzór prostej regresji ŷ = b y x + a y, to w celu znalezienia wzoru ˆx = b x y + a x, wszystkie współczynniki b x i a x należy wyliczyć od nowa. Jeżeli z równania prostej ŷ = b y x + a y, wyznaczymy x, to otrzymujemy inny wzór, niż ˆx = b x y + a x. Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

22 Zadania z Wykładu 6 Zadanie 1 Zaobserwowano następujace wartości wieku mężczyzn (X) i kobiet (Y) zawierajacych zwiazek małżeński (w latach). r xy = x- wiek mężczyzny (męża) y- wiek kobiety (żony) X Y prosta regresji y wyznaczona na podstawie naszych danych: ŷ = 0, 48x + 13, 28 prosta regresji x wyznaczona na podstawie naszych danych: ˆx = 1, 4y 11 Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

23 x = 23, 8, y = 24, 8 wraz ze wzrostem wieku męża a 1 rok następuje wzrost (średniego) wieku żony o 0,48 roku. wraz ze wzrostem wieku żony a 1 rok następuje wzrost (średniego) wieku męża o 1,4 roku. Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

24 Zadania z Wykładu 6 Zadanie 2 Zbadano zależność między stażem pracy (X), a wydajnościa pracownika (Y) w dużym przedsiębiorstwie. Wylosowano w sposób niezależny stu pracowników. Staż r xy = Liczba sztuk na godzinę wzór: x staż pracy, y- wydajność ŷ = 3, 24 x + 14, 6 ˆx = 0, 199 y 1, 26 Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

25 wzór: x staż pracy, y- wydajność x = 4, 6, y = 29, 5 ŷ = 3, 24 x + 14, 6 ˆx = 0, 199 y 1, 26 y = 5, 03ˆx + 6, 35 wzrost stażu pracy o 1 rok powoduje wzrost wydajności o 3, 24 sztuki. wzrost wydajności o 1 sztukę powoduje wzrost stażu o 0,2 roku (około 2,5 miesiaca). Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

26 Własności Mamy zatem dwie funkcje regresji liniowej ŷ = a y + b y x, ˆx = a x + b x y. obie proste regresji przecinaja się w punkcie (x, y) b y = r xy sy s x, b x = r xy sx s y Zauważmy, że znaki b x i b y zawsze sa takie same i pokrywaja się ze znakiem r xy, zatem: obie proste regresji sa równocześnie rosnace (gdy r xy > 0) albo obie proste regresji sa równocześnie malejace (gdy r xy < 0). gdy r xy = 0 (tzn. brak korelacji liniowej) to proste przyjmuja postać: zatem sa do siebie prostopadłe. ŷ = y, ˆx = x, Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

27 Ponieważ b y = r xy sy s x, b x = r xy sx, to: s y r xy = b x b y, przy czym znak r xy pokrywa się ze znakiem b x. Przykład 1 Jeżeli b x = 2, b y = 1 3, to r xy = = 0, 677 = 0, 817 r xy = Przykład 2 Jeżeli b x = 2, b y = 1 3, to r xy = ( 2) ( 1 3 ) = 0, 677 = 0, 817 r xy = Przykład 3 Jeżeli b x = 2, r xy = 1 2, to ze wzoru r 2 xy = b x b y mamy: b y = r 2 xy b x = 1 4 ( 2) = 1 = 0, Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

28 Jaki jest kat nachylenia do osi OX prostej ˆx = a x + b x y? b x jest współczynnikiem kierunkowym tej prostej, ale jest równy tangensowi kata nachylenia tej prostej do osi OY!!! Jeśli z równości ˆx = a x + b x y, gdzie b x = r xy sx s y wyznaczymy y, czyli y = 1 b x ˆx a x b x, to współczynnik kierunkowy będacy tangensem nachylenia prostej ˆx = a x + b x y do osi OX wynosi 1 b x = 1 r xy s y s x. Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

29 Jeśli r xy = 1, to zależność między cechami jest liniowa i obie proste regresji się pokrywaja. Zatem kat między prostymi regresji wynosi 0 stopni. Jeśli 0 < r xy < 1, to proste regresji tworza z soba pewien kat α ( ostry, tzn. α (0, 90 )), który można obliczyć ze wzoru: tg α = 1 r xy s x s y r xy (s 2 x + s 2 y). Jeśli r xy = 0, to proste regresji przyjmuja postać ˆx = x i ŷ = y, zatem sa do siebie prostopadłe. Stad kat między takimi prostymi regresji wynosi 90. prosta ˆx = a y + b y y przyjmuje postać ˆx = x, bo: b y = r xy sx s y = 0, a y = x b y y = x. prosta ŷ = a y + b y x przyjmuje postać ŷ = y, bo: b y = r xy sy = 0, s x a y = y b y x = y. Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

30 α kat między prostymi regresji wraz ze wzrostem zależności kat pomiędzy prostymi regresji maleje Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

31 Zadanie z treścia Na podstawie następujacych danych ustal siłę i kierunek zależności pomiędzy stażem pracy robotników bezpośrednio produkcyjnych a ich wydajnościa pracy oraz wyznacz równania liniowych funkcji regresji. średni staż wynosi 8 lat przyrostowi stażu pracy o 1 rok towarzyszy wzrost wydajności pracy o 2 jednostki produktu na godzinę wydajność pracy robotników różni się od wydajności średniej przeciętnie o ±5 jednostek produktu na godzinę współczynnik zmienności stażu pracy wynosi 25% średnia wydajność pracy wynosi 25 jednostej produktu na godzinę niech x - staż pracy, y- wydajność pracy szukamy r xy, ˆx = b x y + a x, ŷ = b y x + a y Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

32 niech x - staż pracy, y- wydajność pracy szukamy r xy, ˆx = b x y + a x, ŷ = b y x + a y średni staż wynosi 8 lat x = 8 przyrostowi stażu pracy o 1 rok towarzyszy wzrost wydajności pracy o 2 jednostki produktu na godzinę b y = 2 wydajność pracy robotników różni się od wydajności średniej przeciętnie o ±5 jednostek produktu na godzinę s y = 5 współczynnik zmienności stażu pracy wynosi 25% V s = s x 100% = 25% x średnia wydajność pracy wynosi 25 jednostej produktu na godzinę y = 25 Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

33 x = 8, y = 25 V = s x x 100% = 25% s x = x 0, 25 = 2 s y = 5 b y = 2, zatem możemy wyliczyć wartość a y : Zatem mamy a y = y b y x = = 9. ŷ = 2x + 9. b y = r xy sy r xy = b y s x = 2 2 = 0, 8. s x s y 5 r xy = b x b y b x = r xy 2 0, 64 = = 0, 32 b y 2 a x = x b x y = 8 0, = 0. Zatem druga prosta regresji ˆx = 0, 32y. Magdalena Alama-Bućko Statystyka 24 kwietnia / 34

34 Dziękuję za uwagę! Magdalena Alama-Bućko Statystyka 24 kwietnia / 34