Modele wielorównaniowe. Estymacja parametrów

Modele wielorównaniowe. Estymacja parametrów Ekonometria Szeregów Czasowych SGH Estymacja 1 / 47

Plan wykªadu 1 Po±rednia MNK 2 Metoda zmiennych instrumentalnych 3 Podwójna MNK 4 Estymatory klasy k 5 MNW z ograniczon informacj (LIML) 6 Potrójna MNK 7 MNW z peªn informacj (FIML) Estymacja 2 / 47

Wprowadzenie Prezentacja dost pna pod adresem http://web.sgh.waw.pl/~atoroj/ Estymacja 3 / 47

Wprowadzenie Przykªad ŷ 1t {}}{ y 1t = α 0 + α 1 y 2t + α 2 x 1t + ε 1t y 2t = β 0 + β 1 y 1t + β 2 x 2t + ε }{{} 2t ŷ 2t y 2t = β 0 + β 1 (ŷ 1t + ε 1t) + β 2 x 2t + ε 2t a t + β 1 ε 1t y 1t = α 0 + α 1 (a t + β 1 ε 1t) + α 2 x 1t + ε 1t W modelach o równaniach ª cznie wspóªzale»nych endogeniczne regresory skorelowane ze skªadnikiem losowym estymatory KMNK parametrów pojedynczych równa«niezgodne. Estymacja 4 / 47

Wprowadzenie Notacja Do estymacji parametrów j-tego równania y j,t = ỹ j,t Ã [:,j] x j,t B [:,j] + ε j,t z j,t }{{} [ ] ỹj,t x j,t f j }{{} Ã [:,j] B [:,j] + ε j,t mog sªu»y omówione dalej metody. Estymacja 5 / 47

Plan prezentacji 1 Po±rednia MNK 2 Metoda zmiennych instrumentalnych 3 Podwójna MNK 4 Estymatory klasy k 5 MNW z ograniczon informacj (LIML) 6 Potrójna MNK 7 MNW z peªn informacj (FIML) Estymacja 6 / 47

PMNK PMNK notacja X j macierz zmiennych egzogenicznych modelu nie wyst puj cych w j-tym równaniu (obserwacje w wierszach, zmienne w kolumnach). Ỹ j macierz zmiennych endogenicznych modelu nie wyst puj cych w j-tym równaniu (obserwacje w wierszach, zmienne w kolumnach). Równanie mo»na zapisa jako: [ yj,t ỹ j,t ỹ j,t ] 1 Ã [:,j] 0 = [ x j,t x j,t ] [ B [:,j] 0 ] + ε j,t Estymacja 7 / 47

PMNK PMNK (1) Zgodna estymacja KMNK parametrów postaci zredukowanej caªego systemu: ^y t = x t ˆΠ ˆΠ = ( X T X) 1 X T Y Z zale»no±ci mi dzy parametrami postaci zredukowanej i strukturalnej (Π = BA 1, ΠA = B) dla j-tego równania (ΠA [:,j] = B [:,j] ): ( X X) T 1 X T Y 1 ˆÃ [:,j] 0 = ˆΠ 1 ˆÃ [:,j] 0 = [ ˆ B [:,j] 0 Estymacja 8 / 47 ]

PMNK PMNK (2) Rozbijamy macierz Y na 3 bloki kolumn: zmienna obja±niana w j-tym równaniu, zmienne endogeniczne wyst puj ce w tym równaniu jako obja±niaj ce oraz pozostaªe zmienne systemu. To prowadzi do zapisu: ( ) X T y j = X T Ỹ j ˆÃ [:,j] X j ˆ B [:,j] = X T Z jˆ f j ( ) Gdy macierz X T Z j o wymiarach K Mj + K j kwadratowa (czyli gdy K = M j + K j jednoznaczna identykowalno± równania j) i nieosobliwa, wówczas: ( ) ^F PMNK j = X T 1 Z j X T y j Estymacja 9 / 47

MZI Zmienne instrumentalne W j macierz zmiennych instrumentalnych dla równania j: egzogeniczne; nieskorelowane ze skªadnikiem losowym ε j ; skorelowane ze zmiennymi obja±niaj cymi Z j ; jest ich tyle ile zmiennych obja±niaj cych, tzn. Mj + K j. Estymacja 11 / 47

MZI MZI W T j y j = W T j ( ^F MZI j = Wj T Z j f j + W T j ε j }{{} 0 Z j ) 1 W T j y j Przy jednoznacznie identykowalnym równaniu j i W j - zmiennych z góry ustalonych wyst puj cych w systemie, ^F MZI j = ^F PMNK j. Estymacja 12 / 47

Otrzymanie warto±ci teoretycznych zmiennych endogenicznych j-tego równania modelu 2MNK krok 1 Dla ka»dej ze zmiennych endogenicznych w równaniu j równanie w formie zredukowanej: [ ] ỹ j,t = X t D + v j,t = X j,t X j,t D + v j,t Estymacja KMNK (zgodna) parametrów takiego systemu: ( ( ˆD = X X) T 1 [ ] T [ ] ) 1 [ ] T X T Ỹ j = X j X j X j X j X j X j Ỹj Na podstawie ˆD warto±ci teoretyczne ỹ j,t : [ ] ˆỹ j,t = X t ˆD = X j,t X j,t ˆD Estymacja 14 / 47

Estymacja parametrów postaci strukturalnej przy u»yciu warto±ci teoretycznej z kroku 1 2MNK krok 2 (1) Dla równania y j,t = Ỹ j,t Ã [:,j] + X j,t B [:,j] + ε j,t estymator KMNK: ^F KMNK j = [ ˆÃ [:,j] ˆ B [:,j] ] = ( [ Ỹj X j ] T [ Ỹj X j ] ) 1 [ Ỹj X j ] T yj = = [ ỸT j Ỹ j Ỹ T j X T j Ỹ j X T j X j X j ] 1 [ ỸT j y j X T j y j ] Estymacja 15 / 47

Estymacja parametrów postaci strukturalnej przy u»yciu warto±ci teoretycznej z kroku 1 2MNK krok 2 (2) Warto±ci zaobserwowane ỹ j zast pujemy warto±ciami teoretycznymi z kroku 1, usuwaj c problem endogeniczno±ci: ^F 2MNK j = [ ˆỸ T j X T j ˆỸ j ˆỸ j ˆỸ T j X T j X j X j ] 1 [ ˆỸ T j y j X T j y j ] (1) Estymacja 16 / 47

2MNK wªasno±ci Cechy estymatora 2MNK zgodny przy endogenicznych regresorach; odporny na wspóªliniowo± zmiennych obja±niaj cych i bª dy specykacji; kªopotliwy w przypadku du»ych modeli (wymaga wówczas du»ych prób). Estymacja 17 / 47

2MNK wªasno±ci Zauwa»my nast puj ce zale»no±ci: 1 XT j ˆỸ j = XT j (Ỹj ˆv j ) = XT j Ỹ j XT j ˆv j }{{} ) T 2 ˆỸ j T X j = (Ỹj ˆv j Xj = ˆv j T X j + Ỹj T X j }{{} 3 Ỹ T j 4 Ỹ T j 0 ) T ) Ỹ j = (ˆỸ j + ˆv j (ˆỸ j + ˆv j = ˆỸ j T ˆỸ j + ˆỸ j T ˆv j + ˆv j T ˆỸ j + ˆv j T ˆv j }{{} 0 ) T Ỹ j ˆv j T ˆv j = (ˆỸ j + ˆv j Ỹj ˆv j T ˆv j + ˆv j T ˆỸ j = }{{} 0 ) T (ˆỸ j + ˆv j Ỹj ˆv j (ˆv T j + ˆỸ ) ) T j = (ˆỸ j + ˆv j ˆv j Ỹj = ˆỸ j T Ỹ j }{{} 5 ˆỸ j = XˆD = X ( X T X ) 1 X T Ỹ j Ỹ j 0 Estymacja 18 / 47

2MNK wªasno±ci Alternatywny wzór (1) Podstawiamy do (1) zale»no± 3+4 i 5: ^F 2MNK j = [ ˆỸ T j X T j Ỹ j Ỹ j Ỹj T X T j X j X j ] 1 [ ˆỸ T j y j X T j y j ] = (2) = ( X ( X T X ) ) 1 T X T Ỹ j Ỹj Ỹj T X T j Ỹ j X T j X j X j 1 ( X ( X T X ) 1 X T Ỹ j ) T yj X T j y j WNIOSEK: formuªa obliczeniowa sprowadzona do jednego kroku. Estymacja 19 / 47

2MNK wªasno±ci Alternatywny wzór (2) Podstawiamy do wzoru (1) na estymator 2MNK, wykorzystuj c formuª (2) oraz zale»no± 2: ^F 2MNK j = [ ˆỸ T j X T j Ỹ j Ỹ j ˆỸ T j X T j X j X j ] 1 [ ˆỸ T j y j X T j y j ] = (3) [ ] T [ ] = ˆỸ j X j Ỹj X j }{{}}{{} Wj T Z j 1 [ ˆỸ j X j ] T } {{ } Wj T y j Estymacja 20 / 47

2MNK wªasno±ci Alternatywny wzór (2) WNIOSEK: Estymator 2MNK to szczególny przypadek estymatora MZI, w którym: instrumentami dla zmiennych endogenicznych s ich warto±ci teoretyczne z regresji w formie zredukowanej; zmienne egzogeniczne s instrumentami dla samych siebie. Estymacja 21 / 47

2MNK wªasno±ci Alternatywny wzór (3) Mo»emy podstawi do wzoru (1) na estymator 2MNK zale»no±ci 1, 2 i 3, otrzymuj c równowa»n posta : [ ^F 2MNK ỸT j = j Ỹ j ˆv j T ˆv j Ỹj T X j X T j Ỹ j XT j Xj ] 1 [ (Ỹj ˆv j ) T yj X T j y j ] (4) WNIOSEK: estymator KMNK i 2MNK mo»na zapisa za pomoc wspólnego wzoru: [ ^F KMNK/2MNK ỸT j = j Ỹ j k ˆv j T ˆv j Ỹj T X j X T j Ỹ j XT j Xj ] 1 [ (Ỹj k ˆv j ) T yj X T j y j ] dla k = 0 estymator KMNK dla k = 1 estymator 2MNK Estymacja 22 / 47

k-estymator k-estymator (1) ] 1 ^F K j = [ ỸT j Ỹ j k ˆv T j ˆv j Ỹ T j X T j Ỹ j X T j X j X j (Ỹj k ˆv j ) T yj X T j y j dla k (0; 1). Rozwa»my estymator MZI z macierz instrumentów W j = [ Ỹ j kˆv j X j ] : Estymacja 24 / 47

k-estymator k-estymator (2) ^F MZI j = = = ( ) ([ ] 1 Wj T Z j W T Ỹj kˆv j [ ] ) 1 [ ] Ỹj kˆv j j y j = Ỹj Xj,t y j = X j X j ) T ) T 1 (Ỹj k ˆv j Ỹj (Ỹj k ˆv j Xj [ ) T ] }{{} (Ỹj k ˆvj yj ˆỸ j +ˆv j = X T X T j y j j Ỹ j XT j Xj [ ] ỸT j Ỹ j k ˆv j T ˆv j Ỹj T 1 [ ) T ] X j (Ỹj k ˆv j yj X T j Ỹ j XT j Xj X T j y j WNIOSEK: estymator klasy k to szczególny przypadek estymatora MZI. Estymacja 25 / 47

LIML LIML y j = ~y j ~A [:,j] + ~X j ~B [:,j] + ε j Endogeniczne zmienne obja±niaj ce mo»emy zapisa jako funkcj wszystkich zmiennych egzogenicznych w modelu (fragment postaci zredukowanej): ~y j = XD + V j, V j (0,.Σ v ) Warto± estymatora LIML otrzymujemy, maksymalizuj c funkcj wiarygodno±ci ze wzgl du na ~A [:,j], ~B [:,j], D oraz Σ v. Szczegóªy: podr cznik. Estymacja 27 / 47

LIML Zale»no±ci mi dzy estymatorami Estymacja 28 / 47

Wprowadzenie Idea 3MNK metody estymacji ª cznej: 3MNK i FIML jednoczesna estymacja parametrów caªego modelu wielorównaniowego (w odró»nieniu od metod estymacji parametrów poszczególnych równa«) w procesie estymacji uwzgl dnione korelacje mi dzy skªadnikami losowymi poszczególnych równa«ró»nica mi dzy 2MNK a 3MNK analogiczna do KMNK i UMNK Estymacja 30 / 47

Wprowadzenie Notacja (1) Zapisujemy nasz m-równaniowy model jako: y 1 = Z 1 F 1 + ε 1 y 2 = Z 2 F 2 + ε 2. y m = Z m F m + ε m gdzie Z i = [ Ỹ i X i ] wektor zmiennych obja±niaj cych (endo- i egzogenicznych) w i-tym równaniu modelu. Niech: ^F 2MNK j wektor oszacowa«parametrów j-tego równania za pomoc 2MNK Estymacja 31 / 47

Wprowadzenie Kowariancje skªadników losowych Znaj c wektor parametrów, mo»emy wyznaczy : 1 reszty losowe ka»dego z równa«(wektory ε 1, ε 2,..., ε m). 2 macierz wariancji-kowariancji skªadników losowych poszczególnych równa«modelu czyli odpowiednio uªo»one kowariancje dla ka»dej pary ε i, ε j : Var (ε) = E ( εε T ), gdzie ε oznacza wektor zmiennych losowych [ε 1, ε 2,..., ε m] T. Macierz t oznaczamy: ˆΣ = [ˆσ ij ] ( ) ( ) T ˆσ ij = y i Z i^f 2MNK i y j Z j^f 2MNK j /v gdzie v liczba stopni swobody. Gdy wyznaczamy j dla kowariancji dwóch równa«, z których ka»de ma inn liczb stopni swobody, optymalnie jest u»y ( ) ) ±rednie geometrycznej: v = T M i K i (T M j K j (oznaczenia jak w wykªadzie nt. identykowalno±ci). Estymacja 32 / 47

Wprowadzenie Notacja (2) Zapisujemy caªy model w jednym równaniu macierzowym: y 1 Z 1 0... 0 F 1 ε 1 y 2 0 Z2... 0 F 2 ε 2 =...... +... y m 0 0... Z m F m ε m }{{}}{{}}{{}}{{} y Z F ε Przy czym ε 1, ε 2,... s wektorami pionowymi o wymiarach T 1. Estymacja 33 / 47

Trzy kroki 3MNK krok 1 Krok 1. Estymacja w postaci zredukowanej (MNK) i obliczenie warto±ci teoretycznych dla równania j: ^~ Z j = XΠ j = X ( X T X ) 1 X T ~Z j Macierzowo dla caªego systemu: ^Z = X ( X T X ) 1 X T Z 1 0... 0 0 X ( X T X ) 1 X T Z 2... 0...... 0 0... X ( X T X ) 1 X T Z { [ m I m X ( X T X ) ]} 1 X T Z = Estymacja 34 / 47

Trzy kroki 3MNK krok 2 Krok 2. Estymacja w postaci strukturalnej parametrów pojedynczych równa«(2mnk) Warto±ci z próby w KMNK zamienione na warto±ci teoretyczne: ^F 2MNK = (^Z T ^Z) 1 ^Z T y Estymacja 35 / 47

Trzy kroki 3MNK krok 3 (1) Krok 3. Uwzgl dnienie jednoczesnych korelacji skªadników losowych w procesie estymacji. Je»eli poszczególne skªadniki losowe s sferyczne, to ka»dy taki wektor ma macierz wariancji-kowariancji postaci σjj 2 0... 0 0 σjj 2... 0....... 0 0... σjj 2 Jaka jest macierz wariancji-kowariancji caªego wektora ε? Estymacja 36 / 47

Trzy kroki 3MNK krok 3 (2) σ 2 11 σ 2 12 σ 2 1m σ 2 11 σ 2 12... σ 2 1m......... σ 2 11 σ 2 12 σ 2 1m σ 2 12 σ 2 22 σ 2 2m σ 2 12 σ 2 22... σ 2 2m......... σ 2 12 σ 2 22 σ 2 2m............ σ 2 1m σ 2 2m σ 2 mm σ 2 1m σ 2 2m... σ 2 mm......... σ 2 1m σ 2 2m σ 2 mm Estymacja 37 / 47

Trzy kroki Iloczyn Kroneckera [ ] [ ] a11 a 12 b11 b 12 = a 21 a 22 b 21 b [ ] 22 [ b11 b a 11 12 b11 b a b 21 b 12 12 [ 22 ] [ b 21 b 22 b11 b a 21 12 b11 b a b 21 b 22 12 22 b 21 b 22 Mo»na ªatwo wykaza,»e ] ] (A B) 1 = A 1 B 1 (A B) (C D) = AC BD Estymacja 38 / 47

Trzy kroki Iloczyn Kroneckera w 3MNK σ 2 11 σ 2 12 σ 2 1m σ 2 11 σ 2 12... σ 2 1m......... σ 2 11 σ 2 12 σ 2 1m σ 2 12 σ 2 22 σ 2 2m σ 2 12 σ 2 22... σ 2 2m......... σ12 2 σ22 2 σ2m 2........ σ1m 2 σ2m 2 σmm 2 σ1m 2 σ2m 2... σmm 2......... = σ1m 2 σ2m 2 σmm 2 σ11 2 σ12 2... σ 2 1m 1 0... 0 σ12 2 σ22 2... σ2m 2 0 1... 0 =................ = Σ I T σ1m 2 σ2m 2... σmm 2 0 0... 1 T T Estymacja 39 / 47

Trzy kroki Ostateczny wzór 3MNK (1) Je»eli znamy macierz wariancji-kowariancji caªego wektora skªadników losowych po oszacowaniu ˆΣ, to mo»emy zastosowa UMNK w odniesieniu do modelu y = ZF + ε, ε (0, Ω). ^F UMNK = ( Z T Ω 1 Z ) 1 Z T Ω 1 y Przy jednoczesnym zastosowaniu 2MNK zast pujemy w powy»szym wzorze Z warto±ciami teoretycznymi z kroku 1: ^F UMNK = (^Z T Ω 1^Z) 1 ^Z T Ω 1 y Estymacja 40 / 47

Trzy kroki Ostateczny wzór 3MNK (2) Skoro ˆΩ = ˆΣ I T oraz ^Z = { [ I m X ( X T X ) ]} 1 X T Z, to: ^F 3MNK = { [ [Z T I m X ( X T X ) ]} 1 T ) X (ˆΣ T 1 [ I T {I m X ( X T X ) ]} 1 X T Z [ Z {I T m X ( X T X ) ]} 1 T ) X (ˆΣ T 1 I T y Z wªasno±ci iloczynu Kroneckera: ^F [ 3MNK = [ Z {ˆΣ T 1 X ( X T X ) ]} 1 X Z] T 1 [ Z T {ˆΣ 1 X ( X T X ) ]} 1 X T y Estymacja 41 / 47

FIML FIML (1) Ukªad równa«w postaci strukturalnej: Ay + BX = ε. Skªadnik losowy postaci zredukowanej ma macierz wariancji-kowariancji ˆΣ. Je»eli poszczególne wektory skªadnika losowego z ró»nych okresów (i) s niezale»ne i (ii) maj wielowymiarowy rozkªad normalny, to ich ª czna funkcja g sto±ci: L ε = (2π) mt 2 ˆΣ 12 ( ) ] 1 I T exp [ 12 ˆΣ εt I T ε Funkcja g sto±ci obserwacji i skªadnika losowego zale» od siebie: L y = L ε deta L y = (2π) mt 2 ˆΣ [ 12 ( ) T ( ) 1 ( ) ] I T deta exp 1 y ~Z~F 2 ˆΣ I T y ~Z~F Estymacja 43 / 47

FIML FIML (2) Po zlogarytmowaniu: l y = mt ln (2π) T ln 2 2 ˆΣ + T ln deta [ ( T ( ) 1 ( ) y ~Z~F) ] ˆΣ I T y ~Z~F 1 2 Oszacowanie FIML otrzymujemy, maksymalizuj c powy»sze wyra»enie ze wzgl du na nieznane warto±ci parametrów modelu. Estymacja 44 / 47

FIML FIML vs 3MNK 3MNK FIML 3MNK ** Przy jednoznacznej identykowalno±ci równowa»ne. FIML ** ** Estymacja 45 / 47

Zadania 8.8 Estymacja 46 / 47

Zadania 8.12 Estymacja 47 / 47