Ekonometria. Własności składnika losowego. Jakub Mućk. Katedra Ekonomii Ilościowej

Ekonometria Własności składnika losowego Jakub Mućk Katedra Ekonomii Ilościowej Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 1 / 31

Agenda KMNK przypomnienie 1 KMNK przypomnienie 2 3 4 Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 2 / 31

Outline KMNK przypomnienie 1 KMNK przypomnienie 2 3 4 Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 3 / 31

Twierdzenie Gaussa-Markowa Załóżmy: 1 rz(x) = k + 1 n 2 Zmienne x i są nielosowe, a zatem są niezależne od składnika losowego 3 E(ɛ) = 0 4 D 2 (ε) = E(εε T ) = I σ 5 ε i N (0, σ 2 ) Twierdzenie Gaussa - Markowa Estymator ˆβ uzyskany Klasyczną Metodą Najmniejszych Kwadratów jest estymatorem BLUE [best linear unbiased estimator], tj. zgodnym, nieobciążonym i najefektywniejszy w klasie liniowych estymatorów wektora β. nieobciążoność, czyli E( ˆβ) = β najefektywniejszy, czyli posiadający najmniejszą wariancję w swojej klasie zgodny, czyli lim n P( ˆβ n β ) < δ Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 4 / 31

Konsekwencje braku sferyczności macierzy kowariancji składnika losowego Przypomnijmy estymator macierzy wariancji-kowariancji oszacowań ( ˆβ OLS ): D 2 ( ˆβ OLS ) = E [ ( ˆβOLS β ) ( ˆβOLS β ) T ] (1) Korzystając z zapisu macierzowego: [ (X D 2 ( ˆβ ) ( OLS ) = E T 1 (X ) ) ] T X X T ε T 1 X X T ε [ (X ) ( ) ] = E T 1 X X T εε T X X T 1 X = ( X T X ) 1 X T E [ εε T] X ( X T X ) 1 Następnie korzystając z założenie o sferyczności macierzy wariancji-kowariancji składnika losowego, tj. D 2 (ε) = E(εε T ) = σ 2 I, można uprościć wzór na estymator wariancji kowariancji oszacowań do: D 2 ( ˆβ OLS ) = σ 2 ( X T X ) 1 Autokorelacja oraz heteroskedastyczność implikują obciążoność macierzy wariancji-kowariancji wektora oszacowań, a zatem spadek efektywnośći oszacowań wektora ˆβ OLS. Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 5 / 31 (2)

jest problemem najczęściej występującym w przypadku szeregów czasowych i polega na zależności(skorelowaniu) bieżących wartości składnika losowego od wartości przeszłych. Indeks t będzie oznaczać czas obserwacji. Zgodnie z założenia MNK: σ 2 0...... 0. 0........... D 2 (ε) =..... σ 2............... 0 0...... 0 σ 2 co jest równoznaczne: t s cov(ε t, ε s) = 0 Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 7 / 31

Autokorelacja pierwszego rzędu Autokorelacja pierwszego rzędu ε t = ρε t 1 + η t gdzie η t N (0, ση), 2 E(η) = 0 oraz D 2 (η) = I ση. 2 W przypadku autokorelacji składnika losowego macierz wariancji-kowariancji składnika losowego nie jest diagonalna: D 2 (ε) = 1 ρ ρ 2... ρ n 1 ρ 1 ρ... ρ n 2 ρ 2 ρ 1... ρ n 3......... ρ n 1 ρ n 2 ρ n 3... 1 Przykład idiosynkratycznego zaburzenia losowego(l) oraz AR(1) (P) 2 1 0 1 2 4 2 0 2 4 6 0 50 100 150 200 0 50 100 150 200 Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 8 / 31

Konsekwencje autokorelacji składnika losowego: Spadek efektywności estymatora parametrów ˆβ OLS. Obciążenie macierzy wariancjikowariancji wektora ˆβ OLS, a więc obciążenie błędów szacunku. Ponadto, obciążone są wyniki testów statystycznych opartych na błędach szacunku, jak np. test istotnotności zmiennych t-studenta. Problem autokorelacji może sygnalizować bardzo poważne problem, jak np. problem pominiętych zmiennych (omitted variables bias). Przyczyny autokorelacji składnika losowego: Problem pominięcia ważnej zmiennej. Niepoprawna postać funkcyjna; wadliwa struktura dynamiczna, brak uwzględnienie czynników cyklicznych/sezonowych. Wysoka inercja zjawisk gospodarczych; psychologia podejmowanych zjawisk. Przekształcenia statystyczne. Rozwiązania problemu autokorelacji składnika losowego: Zmiana postaci funkcyjnej/ dynamicznej modelu ekonometrycznego. Uwzględnienie brakujących zmiennych objaśniających. UMNK - ugólniona metoda najmniejszych kwadratów (GLS -Generalized Least Squares oraz FGLS Feasible GLS). Metody Cohrane a-orcutta oraz Praisa-Wintensa. Odporne błędu standardowe; w przypadku szeregów czasowych stosuje się procedurę Neweya-Westa (1987). Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 9 / 31

umożliwia sprawdzenie jedynie autokorelacji pierwszego rzędu. Statystyka testu DW opiera się na oszacowaniu współczynnika korelacji pomiędzy e t a e t 1: n (e t e t 1 ) 2 d = t=2 n (3) t=1 Łatwo zauważyć, że d 2(1 ˆρ). Hipotezą zerową jest brak autokorelacji, tj.: H 0 : ρ = 0 (4) Natomiast hipoteza alternatywna testu DW zależy od wartości statystyki testowej:, tj. H 1 : ρ > 0 gdy d (0, 2) (5) Wartości krytyczne d U i d L są stablicowane. e 2 t 1 H 1 : ρ < 0 gdy d (2, 4) (6) H 1 : ρ > 0 H 1 : ρ < 0 Statystyka d Decyzja Statystyka d Decyzja (0, d L ) są podstawy do odrzucenia H 0 na rzecz H 1 o dodatniej autokorelacji (4 d L, 4) są podstawy do odrzucenia H 0 na rzecz H 1 o ujemnej autokorelacji do odrzucenia (d L, d U ) brak decyzji (4 d L, 4 d U ) brak decyzji (d U, 2) nie ma podstaw do odrzucenia (4 d U, 2) nie ma podstaw H 0 H 0 Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 10 / 31

Ograniczenia testu Durbina-Watsona Test DW posiada obszary niekonkluzywności. umożliwia weryfikację autokorelacji jedynie pierwszego rzędu. W specyfikacji modelu ekonometrycznego nie może zostać uwzględniona część autoregresyjna zmiennej objaśnianej, tj. opóźnione wartości zmiennej objaśnianej. można stostować w przypadku modeli z wyrazem wolnym. Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 11 / 31

Test mnożnika Lagrange a (LM) zaproponowany przez Breuscha i Godfreya pozwala na testowanie autokorelacji zarówno pierwszego jak i wyższych rzędów. W pierwszym kroku szacowane są parametry modelu: y t = β 0 + β 1 x 1,t +... + β k x k,t + ε t (7) W drugim kroku szacowane są parametry modelu, w którym wyjąśniany jest składnik resztowy z modelu (7). Dodatkowo, uwzględniane są opóźnienia do rzędu Q włącznie: e t = β 0 + β 1 x 1,t + β 2 x 2,t +... + β k x k,t + β k+1 e t 1 +... + β k+q,t e t Q +η t (8) }{{}}{{} zmienne objaśniające z modelu (7) opóżnione reszty z modelu (7) Hipoteza zerowa testu LM jest równoznaczna braku autokorelacji do rzędu Q włącznie: Statystyka testowa: H 0 : β k+1 =... = β k+q = 0 (9) H 1 : l (1,..,Q) β k+l 0 (10) LM = nr 2 (11) posiada rozkład χ 2 z Q stopniami swobody (rząd weryfikowanej autokorelacji składnika losowego). Są podstawy do odrzucenia H 0, jeżeli LM jest większa od wartości krytycznej χ 2. Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 12 / 31

Przykład KMNK przypomnienie [Hill, Griffiths i Lim]: krzywa Phillipsa dla Australii. Dane: szeregi czasowe od 1987Q1 do 2009Q3. inf t - inflacja w okresie t. u t - zmiana stopy bezrobocia w okresie t. Model: inf t = inf E t γ u t + ε t (12) Zakładając, że oczekiwania inflacyjne są stałe w czasie: gdzie β 1 = γ. inf t = β 0 + β 1 u t + ε t (13) Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 13 / 31

Przykład c.d. KMNK przypomnienie Rozważany model: inf t = β 0 + β 1 u t + ε t (14) Oszacowanie Błąd stand. t-studenta wartość p β 0 0.777621 0.0658249 11.8135 0.0000 β 1 0.527864 0.229405 2.3010 0.0238 Czy oszacowanie parametru β 1 jest statystycznie istotne? Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 14 / 31

Przykład wykres reszt modelu względem czasu -2-1 0 1 2 1985q1 1990q1 1995q1 2000q1 2005q1 2010q1 time Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 15 / 31

Przykład zależność między resztami a ich pierwszym opóźnieniem e_{t} -2-1 0 1 2-2 -1 0 1 2 e_{t-1} Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 16 / 31

Przykład zależność między resztami a ich pierwszym opóźnieniem e_{t} -2-1 0 1 2-2 -1 0 1 2 e_{t-1} Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 17 / 31

Przykład testowanie autokorelacji składnika losowego : Statystyka testowa: 0.887 Wartości krytyczne (N = 90 i k = 1) przy 5% poziomie istotności: d L : 1.6345 d U : 1.6794 Statystyka testu LM: p Wartość statystyki p-value 1 27.592 0.000 4 36.672 0.000 Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 18 / 31

Przykład estymator macierzy wariancji-kowariancji odporny na autokorelację Rozważany model: inf t = β 0 + β 1 u t + ε t (15) Podstawowe oszacowania oszacowania Oszacowanie Błąd stand. t-studenta wartość p β 0 0.777621 0.0658249 11.8135 0.0000 β 1 0.527864 0.229405 2.3010 0.0238 Odporne błędy standardowe Oszacowanie Błąd stand. t-studenta wartość p β 0 0.777621 0.101848 7.6351 0.0000 β 1 0.527864 0.309225 1.7071 0.0913 Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 19 / 31

jest drugą formą niespełnienia założenia o sferyczności macierzy wariancji-kowariancji składnika losowego. Zjawisko heteroskedastyczności składnika losowego charakteryzuje przede wszystkim modele oparte o dane przekrojowe. Ogólny zapis hetereoskedastyczności składnika losowego: σ1 2 0... 0...... gdzie D 2 (ε) = 0 σ2 2.......... 0... 0 σn 2 σ 2 1 σ 2 2... σ 2 k Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 21 / 31

Konsekwencje heteroskedastyczności składnika losowego: Spadek efektywności estymatora parametrów ˆβ OLS. Obciążenie macierzy wariancjikowariancji wektora ˆβ OLS, a więc obciążenie błędów szacunku. Ponadto, obciążone są wyniki testów statystycznych opartych na błędach szacunku, jak np. test istotnotności zmiennych t-studenta. Problem hetereoskedastyczności może sygnalizować poważne problem, jak np. problem pominiętych zmiennych (omitted variables bias). Przyczyny heteroskedsatyczności składnika losowego: Znaczne różnice heterogeniczności jednostek w próbie. Rozwiązania problemu heteroskedastyczności składnika losowego: Ważona MNK. Transformacja zmiennych do postaci logarytmicznej. Odporne błędy standardowe; dla danych przekrojowych procedura zaproponowana przez White a. Identyfikacja: Wykresy.. Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 22 / 31

jest bardzo zbliżony do testu mnożnika LM zaproponowanego przez Breuscha Godfreya. W pierwszym kroku szacowane są parametry modelu: y i = β 0 + β 1 x 1,i +... + β k x k,i + ε i (16) W drugim kroku, zmienną objaśnianą są kwadraty reszt z oszacowanego modelu (16). Ponadto uwzględniane są kwadraty oraz interacje zmiennych objaśniających z modelu (16), tj.: e 2 i = β 0 + β 1 x 1,i +... + β k x k,i + β k+1 x 2 1,i +... + β k+kx 2 k,i + +β k+k+1 x 1,i x 2,i +... + β k+k+s x k 1,i x k,i + η i Hipotezą zerową jest homoskedastyczność składnika losowego: Statystyka testowa: H 0 : σ 2 i = σ 2 H 1 : σ 2 i σ 2 (17) LM = nr 2 (18) posiada rozkład χ 2 z M stopniami swobody (liczba wszystkich wszystkich zmiennych objaśniających w regresji testowej, tj. M = 2k+s). Są podstawy do odrzucenia H 0, jeżeli LM jest większa od wartości krytycznej χ 2. Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 23 / 31

Przykład KMNK przypomnienie [Wooldridge:] zwroty z edukacji. Dane: dane przekrojowe (N = 526). wage i - przeciętne godzinowe zarobki dla i-tej jednostki (w USD). educ i - liczba lat edukacji i -tej ejdnostki. Model: wage i = β 0 + β 1educ i + ε i (19) Parametr β 1 będzie mierzył tzw. zwrot z edukacji. Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 24 / 31

Model: wage i = β 0 + β 1educ i + ε i (20) Podstawowe oszacowania oszacowania Oszacowanie Błąd stand. t-studenta wartość p β 0 0.9048516 0.6849678 1.32 0.187 β 1 0.5413593 0.053248 10.17 0.000 Jaki jest przeciętny zwrot z edukacji? Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 25 / 31

Przykład wykres kwadratów reszt modelu względem zmiennej educ e^2_{i} 0 100 200 300 0 5 10 15 20 educ_{i} Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 26 / 31

Przykład wykres kwadratów reszt modelu względem zmiennej educ e^2_{i} 0 100 200 300 0 5 10 15 20 educ_{i} Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 27 / 31

Przykład test White a Oszacowania regresji pomocnicznej (błędy standardowe w nawiasach): û 2 i = 11.59283 (5.933339) + 1.827862educ i, (21) (0.461246) gdzie ûi 2 to kwadrat składnika resztowego z podstawowego modelu. W regresji pomocniczej, wartość statystyki t dla zmiennej educ wynosi 3.96. O czym to świadczy? R 2 regresji pomocnicznej wynosi 0.0291 Liczba obserwacji: 526. Statystyka testu White a wynosi 15.31. Empiryczny poziom isotoności: 0.0001. Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 28 / 31

Przykład transformacja logarytmiczna Podstawowy model: wage i = β 0 + β 1educ i + ε i. (22) Zastosowanie transformacji logarytmicznej dla zmiennej objaśnianej: ln wage i = γ 0 + γ 1educ i + η i. (23) Oszacowanie Błąd stand. t-studenta wartość p Podstawowe oszacowania oszacowania β 0 0.9048516 0.6849678 1.32 0.187 β 1 0.5413593 0.053248 10.17 0.000 Przekształcenie logarytmiczne zmiennej objaśnianej γ 0 0.5837726 0.0973358 6.00 0.000 γ 1 0.0827444 0.0075667 10.94 0.000 Statystyka testu White a (dla modelu z transformacją logarytmiczną): 0.74 (p-value:0.389). Dlaczego oszacowania γ 1 i β 1 się różnią? Jaka jest różnica w ich interpretacji? Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 29 / 31

nie jest wymaganą właśnością składnika losowego, ale umożliwia korzystanie z testów statystycznych weryfikujących pozostałe własności składnika losowego. Test Jarque a-berry jest najpopularniejszą metodą w weryfikacji normalności składnika losowego. Statystyka teo testu opiera się na kurtozie i skośności reszt: JB = n 6 (S2 + 1 4 (K 3)2 ) (24) gdzie S i K to odpowiednio estymatory skośności oraz kurtozy składnika losowego: 1 n (e i ē) 3 1 n (e i ē) 4 n n i=1 i=1 S = oraz K = 3 (25) n n ( 1 (e i ē) 2 ) 3 2 ( 1 ( ei ē) 2) 2 n n i=1 i=1 Hipotezą zerową jest normalność składnika losowego: H 0 : ε N (0, σ) Wartość statystyki testowej ma rozkład χ 2 z dwoma stopniami swobody. Jeżeli wartość JB jest większa od wartości krytycznej z rozkładu χ 2 to są podstawy do odrzucenia H 0. Odrzucenie hipotezy zerowej uniemożliwia korzystanie z testów statystycznych. Ale w przypadku dużej próby, własności asymptotyczne testów nadal są pożadane. Jakub Mućk Ekonometria Wykład 3 Własności składnika losowego 31 / 31