0.1 Metoda Zmiennych Instrumentalnych

Transkrypt

1 Notatki do ćwiczeń z ekoometrii 0.1 Metoda Zmieych Istrumetalych Wprowadzeie W dotychczasowej aalizie Klasyczego Modelu Regresji Liiowej przyjmowaliśmy założeie o iezależości składika losowego rówaia regresji od macierzy zmieych objaśiających modelu X. Obecie to założeie uchylimy. Metodę Zmieych Istrumetalych (MZI) stosuje się do aalizy modeli, kórych składik losowy ie jest iezależy od zmieych objaśiających modelu. Jest oa uogólieiem metody ajmiejszych kwadratów. W modelu y i = X i β + ε i (1) zmieymi egzogeiczymi będziemy azywać zmiee, które ie są skorelowae ze składikiem losowym ε, atomiast zmieymi edogeiczymi, te zmiee, które są skorelowae z błędami losowymi. Zatem w modelu (1) wszystkie k zmieych w macierzy X, lub iektóre z ich są skorelowae ze składikiem losowym ε. Jedocześie przypuśćmy, że dyspoujemy zbiorem L zmieych Z i, takich, że L jest coajmiej rówe K, tz. dyspoujemy coajmiej tyloma dodatkowymi zmieymi, ile jest zmieych w macierzy X skorelowaych z błędem losowym ɛ, oraz że zmiee z macierzy Z i są skorelowae ze zmieymi macierzy X, ale ie są skorelowae ze składikiem losowym ε. W takim przypadku jesteśmy w staie zbudować zgody estymator dla wektora iezaych parametrów β Przykłady modele o składiku lowosym skorelowaym ze zmieymi objaśiającymi W praktyce badawczej problem skorelowaia zmieych ze składikiem losowym jest ierzadko spotykay. 1. Model Keyesowski gospodarki zakłada, że Y = C + iwestycje + wydatki rzadowe + export etto. Z drugiej stroy Keyesowska fukcja kosumpcji zakłada, że kosumpcja jest fukcją produktu arodowego C = f(y, ε). Szacując parametry tej ostatiej za pomocą KMRL C t = β 0 + β 1 Y t + ε t ie spełia założeń modelu bowiem, z postaci modelu Keyesowskiego wyika, że cov(y t, ε t ) 0. Z drugiej stroy założeie, że cov[y t, ɛ t ] = 0 eguje sesowość modelu Keyesowskiego, bowiem ozacza, iż ie ma zależości między poziomem kosumpcji i dochodem. 1

2 Notatki do ćwiczeń z ekoometrii 2. Jeżeli szacujemy model autoregresyje a podstawie daych z szeregu czasowego, tzw. dyamicze rówaie regresji. Jest to model postaci to y t = f(y t 1, y t 2,...) + ε t (2) y t 1 = f(y t 2, y t 3,...) + ε t 1 (3) zatem cov(y t 1, ε t 1 ) 0. Wobec tego w (2) zmiee objaśiające są skorelowae z błędem losowym. Dodatkowo, moża zauważyć, że składik losowy ε t jest skoreloway z przeszłymi wartościami zmieej objaśiającej i zatem zawiera autokorelację. Jeśli jest autokorelacja, ozacza oa że składik losowy w okresie t zależy od wartości składika losowego z poprzedich okresów, a więc rówież zależy od wartości zmieych objaśiających z tych okresów. 3. Model ze zmieą pomiiętą. Zazwyczaj w zbiorach daych mikroekoomiczych brakuje iformacji o zdolościach respodetów. Mimo wszystko, często w badaiach ekoomiczych szacowae jest rówaie płacy typu Micera l(placa) = β 0 + β 1 plec + β 2 wyksztalceie + β 3 wiek + β 4 wiek 2 + u (4) Poieważ w modelu pomiięto istotą zmieą iezależą zdolości to składik losowy będzie miał postać u = γ 0 + γ 1 zdolosci + φ (5) Z drugiej stroy uzyskay poziom wykształceia jest bez wątpieia determioway przez zdolości respodeta.zatem cov(u, wyksz) = cov(u, zdolosci+φ) = cov(u, zdolosci) +cov(u, φ) 0 }{{} 0 Poieważ zmiea pomiięta jest dodatio skorelowaa z uzyskaym poziomem wykształceia i wpływa dodatio a uzyskiwae zarobki to parametr przy zmieej wykształceie będzie dodatio obciążoy. 4. Błąd w pomiarze zmieej w zmieych objaśiających. W takim przypadku moża pokazać, że składik losowy i zmiea objaśiającasą skorelowae. Niezerowa korelację pomiędzy zmieymi objaśiającymi a składikiem losowym pochodzącym z tego samego okresu w literaturze azywa się problemem rówoczesości. We wszystkich wymieioych przykładach, jeśli zastosujemy MNK otrzymamy estymatory, które ie są estymatorami zgodymi. 2

3 Notatki do ćwiczeń z ekoometrii Własości esymatorów MNK przy iezerowej korelacji między regresorami a składikiem losowym Jeżeli model (1) oszacujemy za pomocą metody ajmiejszych kwadratów to otrzymay estmator będzie obciążoy, poieważ: E(b) = E(X X) 1 X y = E[(X X) 1 X Xβ+(X X) 1 X ε] = β+(x X) 1 X ε wobec tego ie spełia o założeń twierdzeia Gaussa-Markowa. Poieważ E[ε i X i ] = γ składik losowy jest skoreloway z macierzą zmieych objaśiających modelu X, to γ 0. Wobec tego: ( X ε ) plim = γ Wobec tego estymator MNK ie jest rówież zgody: ( X X plimb = β + plim ) 1plim ( X ε ) = β + [E(x 2 ik)] 1 γ β Wyika z tego że, awet dyspoując dużą próbą ie jesteśmy w staie otrzymać dobrych esymatorów wektora iezaych parametrów β Estymacja i własości estymatora MZI Metoda Zmieych istrumetalych jest sposobem pozwalającym a uzyskaie prawidłowych oszacowań w przypadku rówoczesości. W skrócie mówiąc polega oa a zastąpieiu orygialych zmieych istrumetami, które są skorelowae z orygialymi zmieymi, ale ieskorelowae ze składikiem losowym. Estymacja Metodą Zmieych Istrumetalych polega a zalezieiu macierzy istrumetów Z. Elemety macierzy z muszą być iezależe od składika losowego ɛ. Macierz istrumetów Z musi mieć coajmiej tyle kolum (zmieych) co macierz X. Ale ie ozacza to że musimy dla każdego modelu zaleźć coajmiej k dodatkowych zmieych. W macierzy itrumetów mogą pojawiać się zmiee z macierzy X, o ile ie są oe skorelowae ze składikiem losowym ε. Jeżeli macierz Z ma więcej iż k kolum to pierwszym etapem MZI jest zbudowaie macierzy istrumetów. Zajdujemy ją dokoując rzutu wektorów macierzy X a przestrzeń wektorową rozpiaą przez kolumy macierzy istrumetów Z. ˆX = Z(Z Z) 1 Z X = P Z X 3

4 Notatki do ćwiczeń z ekoometrii Zauważmy, że macierz P Z = Z(Z Z) 1 Z jest macierzą rzutu. Wobec tego jest oa symetrycza i idempoteta. Posiadając macierz istrumetów ˆX możemy zbudować estymator b IV = ( ˆX ˆX) 1 ˆXy b IV = ((Z(Z Z) 1 Z X) (Z(Z Z) 1 Z X)) 1 (Z(Z Z) 1 Z X)y b IV = (X Z(Z Z) 1 Z X) 1 (Z(Z Z) 1 Z X)y Jeżeli macierz Z ma tyle samo zmieych co macierz X, czyli r(z) = r(x) to estmator MZI upraszcza się do: b IV = (Z X) 1 Z y W przypadku gdy koluma macierzy X pojawia się w macierzy istrumetów Z, wtedy ta zmiea jest dokładie odwzorowaa w macierzy pomociczej ˆX, jest po prostu sama swoim istrumetem. Ozacza to, że w przypadku gdy tylko jeda ze zmieych objaśiających modelu jest skorelowaa z błędem losowym to potrzebujemy ie zbioru k istrumetów, wystarczy am jede. Pozostałe k 1 zmieych macierzy X, możemy bezpośredio przepisać do macierzy Z, poieważ ie są skorelowae z błędem losowym. Kolumy macierzy ˆX mogą być iterpretowae jako wartości dopasowae regresji kolejych kolum z macierzy X a macierz istrumetów Z. Gdy k-ta koluma pojawia się zarówo w macierzy obserwacji X jak i w macierzy istrumetów Z jest oa doskoale odwzorowaa przez samą siebie, bez pomocy pozostałych kolum macierzy Z. Natomiast, gdy jest to koluma skorelowaa ze składikiem losowym to jest oa w macierzy ˆX zastępowaa przez wartości dopasowae regresji tej zmieej a kolumy macierzy Z Dwustopiowa metoda MNK Estymator MZI jest rówież azyway estymatorem dwustopiowej metody ajmiejszych kwadratów. Bowiem w pierwszym kroku przeprowadzaa jest regresja zmieych edogeiczych a zmiee istrumetale X = Z β i w te sposób uzyskiwaa jest macierz istrumetów istrumetów. Wtedy: b IV = ( ˆX 1 ˆX) ˆX y b IV = (X (I M Z )X) 1 X (I M Z )Xy 4 ˆX będzie zbiorem

5 Notatki do ćwiczeń z ekoometrii b IV = (X (P Z )X) 1 X (P Z )Xy b IV = (X Z(Z Z) 1 ZX) 1 X Z(Z Z) 1 ZXy estymator MZI jest estymatorem MNK z regresji y a ˆX. Wobec tego estymator metody zmieych istrumetalych moża otrzymać w efekcie zastosowaia dwustopiowej procedury. W pierwszym kroku za pomocą metody MNK ależy obliczyć macierz ˆX z regresji macierzy obserwacji X a macierz istrumetów Z. Drugim krokiem jest poowe zastosowaie MNK i obliczeie b IV z regresji y a ˆX Skąd wziąć istrumety. Dobrym istrumetem jest zmiea, która jest skorelowaa ze zmieą dla której potrzebujemy istrumetu, ale ie jest skorelowaa ze składikiem losowym szacowaego rówaia. W modelach szacowaych a daych pochodzących z szeregów czasowych wartości opóźioe zmieych są dobrymi kadydatami a istrumety, o ile ie są oe skorelowae ze składiekiem losowym. W ogólym przypadku odpowiedź ie jest jedozacza, poieważ asymptotycza macierz wariacji-kowariacji będzie duża jeżeli zmiee, których używamy jako istrumety są słabo skorelowae ze zmieymi objaśiającymi modelu. Wobec tego wydaje się, że kryterium wyboru powiie być stopień korelacji ze zmieą/zmieymi z macierzy X. Ale pojawia się astępujący problem. Jeśli zmiea z i jest wysoce skorelowaa ze zmiea x i, a zmieą x i jest skorelowaa ze składikiem losowym, to czy moża twierdzić, że zmiea z i jest ieskorelowaa ze składikiem losowym? Test Hausmaa W przypadku MZI test Hausmaa-Wu stosuje się do weryfikacji hipotezy o egzogeiczości zmieych objasiajacych X. Jeżeli w modelu ekoometryczym ie występują regresory skorelowae z błędem losowym, i wszystkie są dokładie mierzoe (ie występuje systematyczy błąd pomiaru), to w takim przypadku estymatory MNK są zgode i efektywe, a estymatory MZI są zgode ale maja większą wariację. Natomiast w przypadku iezerowej korelacji między regresowami a składikiem losowym estymator MZI jest zgode, podczss gdy estymator MNK ie jest zgody. Wobec tego ależy sprawdzić czy istieje potrzeba użycia estymatorów MZI. W tym celu przeprowadza się test Hausmaa. Jego statystyka testowa bazuje a porówaiu asymptotyczym macierzy wariacji-kowariacji estymatorów przy założeiu, że plim 1 X ε = 0. 5

6 Notatki do ćwiczeń z ekoometrii Asymptotycza wariacja estymatora MNK wyosi: plim s 2 ( X X ) 1 = σ 2 Q 1 gdzie Q jest macierzą odwracalą o skończoych elemetach. Asy.var(b MNK ) = s 2 (X X) 1 (6) macierz wariacji-kowariacji estymatora b MZI wyraża się wzorem: Asy.var(b MZI ) = s 2 (X Z(Z Z) 1 Z X) 1 (7) Porówując asymptotycze macierze wariacji-kowariacji otrzymujemy: Asy.var(b MZI ) Asy.var(b MNK ) = σ 2 ( X plim Z(Z Z) 1 Z X ) 1 σ 2 ( X plim X ) 1 = σ 2 plim [(X Z(Z Z) 1 Z X) 1 (X X) 1 ] W celu porówaia dwóch macierzy możemy porówać ich odwrotości. Odwrotość pierwszej z ich możemy zapisać jako: (X Z(Z Z) 1 Z X) 1 = X (I M Z )X = X X X M Z X Poieważ macierz M Z jest ieujemie określoa to macierz (X Z(Z Z) 1 Z X) 1 jest miejsza od macierzy (X X) 1. Wobec tego dla ich odwrotości zachodzi ierówość w drugą stroę. Wyika z tego, że przy spełioym założeiu różica między macierzą wariacji-kowariacji estymatora MZI, a macierzą wariacji-kowariacji estymatora MNK jest dodatia. Wyosi oa zero w przypadku gdy ˆX = X, czyli predykcja a podstawie macierzy istrumetów idealie replikuje macierz obserwacji X. Procedura testu Hausmaa jest astępująca. Przy prawdziwej hipotezie zerowej oba estymatory b MNK i b MZI są zgode. Jeżeli prawdziwa jest hipoteza aleteratywa, tz. macierz X jest skorelowaa z zaburzeiem losowym, zgodym estymatorem jest jedyie te otrzymay metodą zmieych istrumetalych (MZI). Wobec tego badając różicę estymatorów d = b MZI b MNK możemy zweryfikować słuszość założeia o ieskorelowaiu macierzy obserwacji z błędem losowym. H 0 : estymator MNK jest zgody H 1 : estymator MNK ie jest zgody 6

7 Notatki do ćwiczeń z ekoometrii Przy prawdziwej H 0 statystyka testowa H = d [Asy. varb MZI Asy. varb MNK ]d s 2 χ 2 (J) w przypadku prawdziwej H 0 wskazae jest zastosowaie estymatora MNK, w przeciwym przypadku w celu uzyskaia zgodych oszacowań parametrów ależy użyć MZI Test Sargaa Test Sargaa weryfikuje poprawość zastosowaych istrumetów. Reszty w drugim kroku procedury dwustopiowej są rówe e = (I X(X P Z X) 1 X P Z )ε P Z e = (P Z P Z X(X P Z X) 1 X P Z )ε = M Z ε oczywiście M Z jest macierzą idempotetą. Przy prawdziwej hipotezie o braku korelacji istrumetów z błędami losowymi e P Z e σ 2 χ 2 p K Ta statystyka może służyć do weryfikacji hipotezy o prawidłowości doboru istrumetów. Niestety, przeprowadzeie testu możliwe jest wyłączie gdy liczba istrumetów (p) przekracza liczbę zmieych objaśiających w modelu (K) Przykłady Przykład 1. Czy dla modelu Y t = β 0 + β 1 X t + αy t 1 + ε t, gdzie ε t spełia założeia klasycze MZI jest właściwą metodą szacowaia, czy też moża zastosować MNK? Odpowiedź Zapiszmy rówaie modelu: i to samo rówaie dla kolejego okresu: Y t = β 0 + β 1 X t + αy t 1 + ε t (8) Y t+1 = β 0 + β 1 X t+1 + αy t + ε t+1 (9) 7

8 Notatki do ćwiczeń z ekoometrii przekształćmy to rówaie tak, by móc obliczyć wartość składika losowego: ε t+1 = Y t+1 β 0 β 1 X t+1 αy t (10) wstawiając do rówaia (10) rówaie (8) otrzymujemy: ε t+1 = Y t+1 β 0 β 1 X t+1 α(β 0 + β 1 X t + αy t 1 + ε t ) (11) po uporządkowaiu mamy: ε t+1 = β 0 (1 + α) + Y t+1 α 2 Y t 1 β 1 X t+1 αβ 1 X t αε t (12) Widać że wartość składika losowego w okresie t + 1 zarówo zależy od wartości składika losowego w poprzedim okresie t, jak i wartości zmieej Y w okresie t 1. Wobec tego zmiea Y jest skorelowaa ze składikiem losowym. Przykład 2. Pokaż, że w modelu y i = β 0 + β 1 x i + ε i (13) x i = η i estymator MNK jest ieobciążoy wtedy gdy cov(ɛ i, η i ) = 0 Odpowiedź Zapiszmy wartość oczekiwaą estymatora MNK: E(b) = E((X X) 1 X y) = E((X X) 1 X Xβ) + E((X X) 1 X ε) E(b) = β + E((X X) 1 X ε) W dużej próbie estymator b dąży według prawdopodobieństwa do: plim b = plim (X X) 1 X y = plim (X X) 1 X (Xβ + ε) = = β +plim ( X X ) 1 plim X ε = β +plim η (η ) 1 plim η ε = β +c 0 = β Wobec tego estymator MNK jest ieobciążoy. Przykład 3. Załóżmy, że w modelu y = Xβ + ε spełioe są założeia koiecze do uzyskaia zgodości estymatora MNK. Oblicz plim y ɛ. 8

9 Notatki do ćwiczeń z ekoometrii Odpowiedź plim y ε = plim (Xβ + ε) ε Przykład 4. = plim β X ε + plim ε ε = 0 + σ2 Pokaż, że w modelu y i = β 0 + β 1 x i + ε i (14) x i = γy i + η i estymator MNK jest obciążoy awet w przypadku gdy cov(ɛ i, η i ) = 0 Odpowiedź Przekształćmy model (14) astępująco: y i = β 0 + β 1 (γy i + η i ) + ε i (15) Z własości asymptotyczych estymatora MNK wiemy Możemy to zapisać jako: plim b = β + plim (X X) 1 X ε plim b = β + plim ( X X ) 1 X ɛ plim b = β + Q xx plim X ε Podstawiając za X macierz zmieych objaśiających z modelu (15) otrzymujemy: plim b = β + Q xx plim ε 1 + ε i γy i + ε i η i plim b = β + Q xx ( plim ε1 + plim ε i γy i + plim ε i η i Pokazaliśmy w poprzedim przykładzie, że macierz y ε dąży według prawdopodobieństwa do macierzy wariacji składika losowego. Wobec tego: plim b = β + Q xx (0 + σ 2 γ + 0) więc macierz po prawej stroie dąży do macierzy skończoej o iezerowych elemetach. Wobec tego estymator MNK jest obciążoy. ) 9

10 Notatki do ćwiczeń z ekoometrii Przykład Empiryczy. Dae do przykładu pochodzą z badaia paelowego dotyczącego waruków mieszkaiowych. Są oe z roku 1980 dla USA. Budujemy model dla czyszu postaci: ret = β 0 + β 1 hsgval + β 2 pcturba + ν gdzie ret to mediaa miesięczego czyszu, a hsgval to mediaa wartości domu, a pcturba to procet populacji żyjącej w miastach w daym regioie. Ale uważamy, że wartość domu może zależeć od dochodów i miejsca zamieszkaia i może powia być traktowaa jako zmiea edogeicza. Wtedy: hsgval = α 0 + α 1 famic + α 2 reg2 + α 3 reg3 + α 4 reg4 + ε Najpierw przeprowadzamy zwykłą regresję, w której traktujemy wartość domu jako zmieą egzogeiczą:. use (1980 Cesus housig data). regress ret hsgval pcturba Source SS df MS Number of obs = F( 2, 47) = Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = ret Coef. Std. Err. t P> t [95% Cof. Iterval] hsgval pcturba _cos estimates store mk Pierwsza komeda ściąga plik z daymi. Po oszacowaiu modelu zapamiętujemy wyiki. Następie szacujemy model traktując wartość domu jako edogeiczą. Jako istrumety dla zmieej używamy dochodu rodziy oraz zmieych regioalych. ivreg ret pcturba (hsgval=famic reg2-reg4) Istrumetal variables (2SLS) regressio 10

11 Notatki do ćwiczeń z ekoometrii Source SS df MS Number of obs = F( 2, 47) = Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = ret Coef. Std. Err. t P> t [95% Cof. Iterval] hsgval pcturba _cos Istrumeted: hsgval Istrumets: pcturba famic reg2 reg3 reg Oszacowaia parametrów w obu modelach różią się zaczie. Wobec tego za pomocą testu Hausmaa sprawdzamy, który model jest poprawy.. hausma. mk,costat sigmamore ---- Coefficiets ---- (b) (B) (b-b) sqrt(diag(v_b-v_b)). mk Differece S.E hsgval pcturba _cos b = cosistet uder Ho ad Ha; obtaied from ivreg B = icosistet uder Ha, efficiet uder Ho; obtaied from regress Test: Ho: differece i coefficiets ot systematic chi2(1) = (b-b) [(V_b-V_B)^(-1)](b-B) = Prob>chi2 = (V_b-V_B is ot positive defiite) Istoty statystyczie wyik testu wyraźie wskazuje a obciążoość estymatorów MNK. Wiosek jedak ie jest tak jedozaczy jak twierdzi podręczik do pakietu STATA, bowiem estymator macierzy wariacji-kowariacji estymatorów ie jest macierzą dodatio określoą. W takim przypadku literatura wskazuje, że moża uzać estymatory MNK za zgode. 11

12 Notatki do ćwiczeń z ekoometrii Literatura [1] William H. Greee (2003) Ecoometric Aalysis, 5th editio. [2] Jerzy Mycielski (2000) Notatki do ćwiczeń z ekoometrii, WNE. [3] STATA (2003) Stata Referece. Relase 8, Stata Corporatio. 12