WIELKA SGH-OWA POWTÓRKA ZE STATYSTYKI REGRESJA LINIOWA

Transkrypt

1 WIELKA SGH-OWA POWTÓRKA ZE STATYSTYKI REGRESJA LINIOWA

2 Powtórka Powtórki Kowiariancja cov xy lub c xy - kierunek zależności Współczynnik korelacji liniowej Pearsona r siła liniowej zależności Istotność r zależność liniowa w populacji (statystyka t) Współczynnik zbieżności V-Cramera siła zależności w ogóle Test niezależności zależność w ogóle (statystyka χ 2 ) Współczynnik korelacji rang Spearmana r d porównywanie rankingów

3 Postać ogólna i interpretacja funkcji regresji y i = αx i + β i-ta wartość teoretyczna y (zależna/objaśniana) współczynnik wyraz wolny kierunkowy regresji i-ta wartość (punkt przecięcia linii empiryczna x prostej z osią rzędnych) (niezależna/objaśniająca) Opis: funkcja regresji liniowej zmiennej Y względem zmiennej X Interpretacja: dla wzrostu x o 1, y rośnie średnio o α. β nie zawsze ma interpretację!

4 Estymacja parametrów funkcji regresji i standardowe błędy ich oceny α = S α = (x i x)(y i y) (x i x) 2 S 2 (e) (x i x) 2 = cov xy S 2 (x) = n x i y i x i y i n x i 2 ( x i ) 2 estymator parametru α standardowy błąd oceny α β = 1 n ( y i α x i ) = y α x estymator parametru β S β = S2 (e) x 2 i n (x i x) 2 standardowy błąd oceny β S 2 (e) = e i 2 n 2 = (y i y i ) 2 n 2 wariancja reszt

5 Przykład i x i y i x i y i 2 x i y i e i ,18-0, ,14 4, ,10-4, ,06-4, ,02 5, ,98-3, ,94-2, ,90 6, ,86-1, ,82 0,18 α = n x iy i x i y i n x i 2 ( x i ) 2 = = ,96 β = 1 n ( y i α x i ) = 0, , ,22 y = 1,96x + 6,22 e i = y 1 y 1 Σ

6 Dokładność dopasowania prostej współczynnik determinacji R 2 = ( y i y) 2 (y i y) 2 = r2 Współczynnik determinacji określa jaka część danych jest wytłumaczona przez model - im większy tym prosta regresji jest lepiej dopasowana do danych: dopasowanie niezadowalające dopasowanie słabe dopasowanie zadowalające dopasowanie dobre dopasowanie bardzo dobre Interpretacja: R 2 100% zmienności Y zależy od X.

7 Wyznaczanie przedziałów ufności dla parametrów funkcji regresji i sprawdzanie istotności regresji Konstruowanie przedziałów ufności α ± t γ;n 2 S α Parametry zawierają się w tych β ± t γ;n 2 S β przedziałach z ufnością 1 - γ Weryfikacja hipotezy o wartości współczynnika regresji: H 0 : α = α 0 Warianty obszaru krytycznego: H 1 : α α 0 lub α > α (- ; - t γ;n 2 > < t γ;n 2 ; ) czyli obustronny dla α α 0 0 < t lub α < α 2γ;n 2 ; ) czyli prawostronny dla α > α 0 0 (- ; - t 2γ;n 2 > czyli lewostronny dla α < α 0 Statystyka testowa: t = α α 0 S α (rozkład t-studenta) Dla parametru β można skonstruować analogiczny test

8 Prognozowanie na podstawie modelu regresji liniowej S 2 ( y x ) = S 2 e ( 1 n + x x 2 x i x 2) wariancja prognozy y x ± t γ;n 2 S( y x ) przedział ufności prognozy S(y ρ x ) = S e x x 2 n x i x 2 standardowy błąd prognozy

9 ZADANIA

10 Zadanie 8.1/92

11 Zadanie 8.1/92 a) Która ze zmiennych jest zmienną zależną? Zmienną zależną jest Y - odsetek dochodów przeznaczanych na dobra luksusowe (zależy od zmiennej X dochodów)

12 Zadanie 8.1/92 b) Podać równanie regresji liniowej y względem x i skomentować. i SUMA SUMA 2 x i (tys zł) y i (%) x i *y i x i iloczyn α = n x iy i x i y i n x i 2 ( x i ) 2 = =2,98 β = 1 n ( y i α x i ) = 0, ,98 40 = 3,91 y i = 2,98x i 3,91 Wzrostowi dochodu o 1 tys. zł towarzyszy średni wzrost odsetka dochodów przeznaczanych na dobra luksusowe o 2,98 punktu procentowego.

13 Zadanie 8.1/92 c) Wyznaczyć współczynnik korelacji i determinacji. i SUMA SUMA 2 x i (tys zł) y i (%) x i *y i x i iloczyn S x = 2,88 S y = 8,67 cov xy = = 24,71 r = cov xy S x S(y) = 24,71 2,88 8,67 = 0,99 R 2 = 0,98 173

14 Zadanie 8.1/92 d) Jaka przypuszczalnie część dochodów zostanie przeznaczona na dobra luksusowe w gospodarstwie o dochodzie 7 tys. zł miesięcznie na osobę. y i = 2,98x i 3,91 2,98 7 3,91 = 16,95 Przypuszczalnie będzie to 16,95% dochodu.

15 Zadanie 8.5/93

16 Dane: Zadanie 8.5/93 y i = 0,055x i 21,4 (y i y i ) 2 = 3348 n = 60 ( y i y) 2 =12122 S x 2 = 68959,32 a) Wyznaczyć i zinterpretować współczynnik determinacji oraz współczynnik korelacji liniowej. Skąd wiadomo jaki będzie znak tego drugiego współczynnika? R 2 = ( y i y) 2 (y i y) 2 = ( y i y) 2 ( y i y) 2 + (y i y i ) 2 = ,7836 R = 0,7836 0,8852 Korelacja jest dodatnia ponieważ α > 0

17 Zadanie 8.5/93 b) Ile wynosi standardowy błąd oceny współczynnika regresji? S α = S 2 (e) = (x i x) 2 S 2 (e) (n 1) S x 2 S 2 e = e i 2 n 2 = y i y i n 2 2 = ,72 S α = 57, ,32 0,0038

18 Zadanie 8.5/93 c) Przyjmując poziom istotności 0,05, sprawdzić hipotezę, że wzrost dochodów powoduje wzrost średnich wydatków studentów na kulturę. Jakie dwie różne hipotezy mogą dać odpowiedź na to pytanie? Zweryfikować obie i porównać wartość otrzymanych testów. H 0 : α = 0 H 1 : α > 0 t = α α 0 S α = 0, , ,5 t 0,1;58 = 1,671 t <1,671 ; ) Odrzucamy H 0 na rzecz H 1 H 0 : ρ = 0 H 1 : ρ > 0 t = r 0,8852 n 2 1 r 2 = 1 0,7836 t 0,1;58 = 1,671 t <1,671 ; ) Odrzucamy H 0 na rzecz H ,5

19 Zadanie 8.7/94

20 Zadanie 8.7/94 X powierzchnia mieszkania [m 2 ] Y cena za m 2 [tys. zł] x = 70 S x = 7,53 n = 20 y = 8,64 S y = 2,23 cov xy = 13,77 a) Oszacować i zinterpretować parametry liniowej funkcji regresji. α = cov xy = 0,24 7,53 2 β = y α x = 8,64 0,24 70 = 25,64 y i = 0,24x i + 25,64 Wraz ze wzrostem powierzchni mieszkania o 1 m 2 jego cena maleje średnio o 0,24 tys. zł (parametr β nie ma interpretacji) S 2 (x) = 13,77

21 Zadanie 8.7/94 b) Obliczyć i zinterpretować współczynnik korelacji liniowej i współczynnik determinacji. r = cov xy S x S(y) = 13,77 7,53 2,23 = 0,82 R 2 = 0,67 Korelacja między zmiennymi jest bardzo silna, natomiast powierzchnia mieszkania wyjaśnia jedynie 67% zmienności ceny.

22 Zadanie 8.7/94 d) Ocenić przy poziomie istotności 0,1, czy współczynnik korelacji w populacji jest ujemny? H 0 : ρ = 0 H 1 : ρ < 0 r t = n 2 1 r 2 = 0,82 1 0,67 t 0,2;18 = 1,33 t (- ; -1,33) 18 6,08 Odrzucamy H 0 na rzecz H 1 więc zależność występuje w populacji.

23 Zadanie 8.14/97

24 Zadanie 8.14/97 α = (x i x)(y i y) = 127,017 (x i x) 2 β = 1 n ( y i α x i ) = 205,6895 0, ,83 ( 0,6175) 161,1 20 y i = 0,6175x i + 13,6155 Oddalając się od centrum o jeden kilometr cena za m 2 mieszkania spada średnio o 0,6175 tys. złotych a) Na podstawie przedstawionych informacji oszacować i zinterpretować parametry funkcji regresji ceny m 2 mieszkania względem lokalizacji (odległość od centrum) 13,6155

25 Zadanie 8.14/97 y i = 0,6175x i + 13,6155 0, ,5 + 13,6155 = 7,13175 e 1 = y 1 y 1 = 7,75 7,13175 = 0,61825 b) Obliczyć i zinterpretować teoretyczną wartość funkcji regresji dla pierwszego ze zbadanych mieszkań. Ile wynosiła reszta dla tej wartości?

26 Zadanie 8.14/97 c) Wyznaczyć i zinterpretować standardowy błąd oceny współczynnika regresji. S α = S 2 (e) = (x i x) 2 15,786/(20 2) 205,6895 0,0653

27 Zadanie 8.14/97 H 0 : α = 0 H 1 : α 0 0, t = α α 0 = 9,456 S α 0,0653 t γ;n 2 = t 0,05;18 = 2,101 t (- ; -2,101> <2,101; ) Odrzucamy H 0 na rzecz H 1 więc model może być wykorzystany do prognozowania ceny mieszkań d) Czy model może być wykorzystany do prognozowania ceny mieszkań? Wykorzystaj poznane kryteria oceny jakości modelu, a przy weryfikacji hipotez przyjąć poziom istotności 0,05

28 Zadanie 8.14/97 y i = 0,6175x i + 13,6155 0, ,6155 = 7,4405 e) Ile teoretycznie może kosztować m 2 nowo budowanego mieszkania na Bemowie, jeśli jest ono oddalone od centrum o 10 km? Podać standardowy błąd takiej prognozy. S(y ρ x ) = S e x x 2 = 15,786 n x i x , ,6895 = 0,967

29 DZIĘKUJEMY ZA UWAGĘ! Adam Wiechowski Aleksandra Petrykiewicz