Ekonometria Modelowanie szeregów czasowych. Stacjonarność. Testy pierwiastka jednostkowego. Modele ARDL. Jakub Mućk Katedra Ekonomii Ilościowej Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 1 / 33
Agenda Stacjonarność i Integracja 1 Stacjonarność i Integracja Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF 2 Test Dickeya - Fullera Test KPSS 3 Proces autoregresyjny AR Proces średniej ruchomej MA 4 Model z rozkładem opóźnień Model autoregresyjny z rozkładem opóźnień Wybór specyfikacji modelu dynamicznego 5 Regresja pozorna Model korekty błędem (ECM) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 2 / 33
Outline Stacjonarność i Integracja Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF 1 Stacjonarność i Integracja Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF 2 Test Dickeya - Fullera Test KPSS 3 Proces autoregresyjny AR Proces średniej ruchomej MA 4 Model z rozkładem opóźnień Model autoregresyjny z rozkładem opóźnień Wybór specyfikacji modelu dynamicznego 5 Regresja pozorna Model korekty błędem (ECM) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 3 / 33
Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF Szereg czasowy Szereg czasowy y t, gdzie t = 1, 2, 3,... jest realizacją procesu stochastycznego {Y t}. Proces generujący dane - DGP Operatory szeregów czasowych L( ) operator opóźnień (ang. lag operator) L(y t) = y t 1 (1) ( ) operator różnicowania (ang. difference operator) (y t) = (1 L)y t = y t y t 1 (2) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 4 / 33
Definicja Stacjonarność i Integracja Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF Stacjonarność -własność procesu stochastycznego {Y t}, polagająca na tym, że rozkład procesu stochastycznego {Y t} jest stały w czasie. Stacjonarność (w szerszym ujęciu) 1 Stała w czasie wartość oczekiwana yt: 2 Stała w czasie wariancja yt: 3 Stała w czasie wariancja yt: E(y t) = µ. (3) Var(y t) = E(y t µ) 2 = σ <. (4) Cov(y t, y t+k ) = E(y t µ)(y t+k µ) = λ k. (5) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 5 / 33
Błądzenie losowe i biały szum Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF Biały szum (white noise), czyli ε t N(0, σ 2 ) oraz cov(ε t, ε s) = 0 dla t s: jest procesem stacjonarnym. Błądzenie losowe(random walk) jest procesem niestacjonarnym. y t = ε t (6) y t = y t 1 + ε t (7) Proces błądzenie losowego może zostać zapisany przy pomocy rekursji: y 1 = y 0 + ε 1 2 y 2 = y 1 + ε 2 = y 0 + ε 1 + ε 2 = y 0 + ε k... t k=1 y t = y 0 + ε k k=1 t gdzie ε k jest trendem stochastycznym. k=1 Wtedy wartość oczekiwana jest stała: E(y t) = E(y 0 + ε 1 + ε 2 +... + ε t) = y 0 (8) Ale wariancja szeregu czasowego y t nie może być ograniczona w czasie: var(y t) = var(ε 1 + ε 2 +... + ε t) = tσ 2 (9) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 6 / 33
Integracja Stacjonarność i Integracja Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF Operator różnicowania: pierwsze różnica: y t = y t y t 1, druga różnica: 2 y t = ( y t) = (y t y t 1) = y t 2y t 1 + y t 2, k-ta różnica: k y t = }. {{.. } y t. k Jeżeli szereg y t jest stacjonarny to jest zintegrowany stopnia zerowego y t I (0). (10) Jeżeli y t jest stacjonarny to wtedy szereg jest zintegrowany stopnia pierwszego, tj. y t I (1). Jeżeli k y t jest stacjonarny to wtedy szereg jest zintegrowany stopnia k-tego y t I (k) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 7 / 33
Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF Przyrostostacjonarność - szereg jest niestacjonarny, ale przyrosty są stacjonarne y t I (k) (11) Trendostacjnarność - szereg jest sumą deterministycznego trendu oraz stacjonarnego procesu stochastycznego (np. białego szumu): y t = α + βt + ε t (12) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 8 / 33
Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF Funkcja autokorelacji (ACF) mierzy zależności statystycznej zmiennej z jej opóźnieniem k -tego rzędu. ACF: T k ˆρ k i=1 = (yt ȳ)(y t+k ȳ) T i=1 (yt (13) ȳ)2 Funkcja cząstkowej autokorelacji (PACF) uwzględnia tylko opóźnienie dokładnie k-tego stopnia Statytyka Borce a -Pierce Q : weryfikacja statystycznej istotności współczynnika autokorelacji K Q = T ˆρ 2 k (14) rozkład χ 2 z K stopniami swobody k=1 Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 9 / 33
Outline Stacjonarność i Integracja Test Dickeya - Fullera Test KPSS 1 Stacjonarność i Integracja Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF 2 Test Dickeya - Fullera Test KPSS 3 Proces autoregresyjny AR Proces średniej ruchomej MA 4 Model z rozkładem opóźnień Model autoregresyjny z rozkładem opóźnień Wybór specyfikacji modelu dynamicznego 5 Regresja pozorna Model korekty błędem (ECM) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 10 / 33
Test Dickeya - Fullera Test KPSS (unit root tests) służą statystycznej weryfikacji stacjonarności. Proces autoregesyjny pierwszego rzędu: y t = αy t 1 + ε t (15) Najprościej sprawdzić czy α = 1 za pomocą testu t-studenta. Gdu α = 1 to szereg czasowy y t jest błądzeniem losowym Ale jeśli tak, jest to estymator jest błędów standardowych α jest obciążony i nie ma rozkładu t-studenta To sprawdźmy czy δ < 0: Zestaw hipotez: y t = δy t 1 + ε t (16) H 0 : α = 1 H 0 : δ = 0 H 1 : α < 1 H 1 : δ < 0 (17) Hipoteza zerowa oznacza niestacjonarność! Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 11 / 33
Test ADF Stacjonarność i Integracja Test Dickeya - Fullera Test KPSS Wady testu ADF Ma słabą moc w przypadku autokorelacji składnika losowego Założenie o procesie generującym dane, tj. procesie AR(1) bez wyrazu wolnego. Test ADF (augmented Dickey-Fuller test) rozszerzony test Dickeya - Fullera Regresja testowa: y t = γy t 1 + P α s y t s + ε t (18) i=1 Możliwość uwzględnienia komponentów deterministycznych, tj. wyraz wolny, trend liniowy itp. Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 12 / 33
Wartości krytyczne testu ADF Test Dickeya - Fullera Test KPSS Wartości krytyczne dla testu ADF różnią się od statystyki t-studenta. Wartości krytyczne dla testu ADF są wyznaczane numerycznie i mogą się różnić pomiędzy oprogramowaniem. Tablica: Wartości krytyczne testu ADF Regresja testowa 1% 5% 10% y t = γy t 1ε t -2.56-1.94-1.62 y t = α + γy t 1ε t -3.43-2.86-2.57 y t = α + δt + γy t 1ε t -3.96-3.41-3.13 statystyka t-studenta -2.33-1.65-1.28 Uwagi: powyższe wartości krytyczne pochodzą z pracy Davidson i MacKinnon (1993) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 13 / 33
Test Dickeya - Fullera Test KPSS Altenatywnymi testami są testy: Kwiatkowskiego - Phillipsa - Schmidta - Shina, Phillipsa-Perrona. Test KPSS zakłada dekompozycja szeregu na część deterministyczną oraz stochastyczną Hipotezy testu są odwrotne niż w teście ADF: H 0 : y t stacjonarny H 1 : y t niestacjonarny (19) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 14 / 33
Test Dickeya - Fullera Test KPSS uwagi praktyczne Dobór komponentu deterministycznego w regresji powinien korenspondować obserwacjom empirycznym, tj.: i) Jeżeli zmienna y t oscyluje wokół zera = test ADF bez komponentu deterministycznego. ii) Jeżeli zmienna y t fluktuuje wokół stałej = test ADF z wyrazem wolnym. iii) Jeżeli zmienna y t wykazuje wyraźny deterministyczny trend = test ADF z wyrazem wolnym i trendem liniowym. ALE uwzględnienie trendu liniowego zmienia interpretację wyników testu. W procedurze badania stopnia integracji należy zachować rozsądek. Test ADF może wskazywać na niestacjonarność szeregu czasowego, ale powodem takich wyników może nie być faktyczna niestacjonarność, a np.: i) słaba moc testu ADF oraz (lub) wysoka persytencja szeregu czasowego ii) obecność zmian strukturalnych. iii) skomplikowany proces generujący dane. Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 15 / 33
Outline Stacjonarność i Integracja Proces autoregresyjny AR Proces średniej ruchomej MA 1 Stacjonarność i Integracja Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF 2 Test Dickeya - Fullera Test KPSS 3 Proces autoregresyjny AR Proces średniej ruchomej MA 4 Model z rozkładem opóźnień Model autoregresyjny z rozkładem opóźnień Wybór specyfikacji modelu dynamicznego 5 Regresja pozorna Model korekty błędem (ECM) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 16 / 33
Proces autoregresyjny AR Proces średniej ruchomej MA Proces autoregresyjny pierwszego stopnia AR(1) y t = µ + ρy t 1 + ε t (20) gdzie ε t N (0, σ) Wybrane własności procesu AR(1) E(y t) = Var(y t) = µ 1 ρ (21) σ 2 1 ρ 2 (22) Proces autoregresyjny p-tego stopnia AR(p) y t = µ + φ 1y t 1 + φ 2y t 2 +... + φ py t p + ε t (23) Oszacowania modeli autoregresyjnych można uzyskać przy pomocy MNK. Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 17 / 33
Proces autoregresyjny AR Proces średniej ruchomej MA Proces MA(1): gdzie ε t N (0, σ) Proces MA(q): y t = µ + ε t + φ 1 ε t 1 (24) y t = µ + ε t + φ 1 ε t 1 + φ 2 ε t 2 +... + φ qε t q (25) Prametry modelu MA nie mogą być szacowane MNK (dlaczego?) Najczęsciej stosuje się warunkową sumę kwadratów reszt CSS Każdy stacjonarny proces autoregresyjny moża zapisać za pomocą modelu MA( )!. Przykład dla AR(1) bez wyrazu wolnego Załóżmy, że ε 0 = 1 i dla t > 1, ε t = 0. Wtedy: Łatwo zauważyć, że y t = ρy t 1 + ε t (26) y 0 = 0 ρ + 1 = 1 (27) y 1 = y 0 ρ + 0 = 1 = ρ (28) y 2 = y 1 ρ + 0 = ρρ = ρ 2 (29)... (30) y t = ρ i y t i + ε t (31) i=1 Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 18 / 33
Proces autoregresyjny AR Proces średniej ruchomej MA Proces ARMA(1,1): Lub ogólniej ARMA(p,q) y t = µ + α 1y t 1 + ε t + φ 1ε t 1 (32) y t = µ + α 1y t 1 +... + α py t p + ε t + φ 1ε t 1 +... + φ qε t q (33) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 19 / 33
Outline Stacjonarność i Integracja Model z rozkładem opóźnień Model autoregresyjny z rozkładem opóźnień Wybór specyfikacji modelu dynamicznego 1 Stacjonarność i Integracja Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF 2 Test Dickeya - Fullera Test KPSS 3 Proces autoregresyjny AR Proces średniej ruchomej MA 4 Model z rozkładem opóźnień Model autoregresyjny z rozkładem opóźnień Wybór specyfikacji modelu dynamicznego 5 Regresja pozorna Model korekty błędem (ECM) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 20 / 33
Model z rozkładem opóźnień Model autoregresyjny z rozkładem opóźnień Wybór specyfikacji modelu dynamicznego Model z rozkładem opóźnień DL (distributed lags model): K y t = α 0 + β ix t i + ε t (34) i=0 Mnożnik krótkookresowy (jednoczesny, β SR ): β SR = β 0 (35) Mnożnik długookresowy (β LR ): β LR = β 0 + β 1 +... + β K (36) Parametry strukturalne modelu (34) można szacować przy pomocy MNK. Należy pamiętać o weryfikacji założeń związanych ze składnikiem losowym. Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 21 / 33
Model z rozkładem opóźnień Model autoregresyjny z rozkładem opóźnień Wybór specyfikacji modelu dynamicznego Model autoregresyjny z rozkładem opóźnień ADL(P,K) (autoregressive distributed lags model): y t = α 0 + P K α iy t i + β ix t i + ε t (37) i=1 i=0 Mnożnik krótkookresowy (jednoczesny, β SR ): β SR = β 0 (38) Mnożnik długookresowy (β LR ): β LR = β0 + β1 +... + β K 1 α 1 α 2... α P = K i=0 βi 1 P i=1 αi (39) Parametry strukturalne modelu (37) można szacować przy pomocy MNK. Należy pamiętać o weryfikacji założeń związanych ze składnikiem losowym. Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 22 / 33
Model z rozkładem opóźnień Model autoregresyjny z rozkładem opóźnień Wybór specyfikacji modelu dynamicznego Wybór specyfikacji modelu dynamicznego jest konsensusem pomiędzy utratą efektywności oszacowań w przypadku bogatej specyfikacji, a obciążeniem i zgodnością oszacowań wynikających z pominięcia istotnych opóźnień. Od ogółu do szczegółu (from general to specific): selekcja jest rozpoczynana od bardzo bogatej specyfikacji dynamicznej. Następnie, eliminacji ze specyfikacji modelu dynamicznego poddawane są kolejne opóźnienia. Od szczegółu do ogółu (from specific to general): selekcja jest rozpoczynana od prostej specyfikacji. Kolejno, dodawane są kolejne opóźnienia. Kryteria wyboru W doborze odpowiedniej specyfikacji powinno uwzględniać informację o i) włanościach składnika losowego oraz ii) istotności zmiennych. Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 23 / 33
Outline Stacjonarność i Integracja Regresja pozorna Model korekty błędem (ECM) 1 Stacjonarność i Integracja Definicja stacjonarności Integracja Przyrostostacjonarność vs. Trendostacjonarność ACF i PACF 2 Test Dickeya - Fullera Test KPSS 3 Proces autoregresyjny AR Proces średniej ruchomej MA 4 Model z rozkładem opóźnień Model autoregresyjny z rozkładem opóźnień Wybór specyfikacji modelu dynamicznego 5 Regresja pozorna Model korekty błędem (ECM) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 24 / 33
Regresja pozorna Model korekty błędem (ECM) Stacjonarność szeregów czasowych w analizie ekonometrycznej jest pożądana w celu uniknięcia uzyskania istotnych statystycznie oszacowań na podstawie braku zależności pomiędzy zmiennymi. Taka sytuacja jest nazywana regresją pozorną. Zilustrujmy to na przykładzie regresji dla dwóch losowo wygenerowanych procesów błądzenia losowego (y t i x t): gdzieη t N ( 0, σ 2 η) i εt N ( 0, σ 2 ε). DGP 1 : y t = y t 1 + ε t DGP 2 : x t = x t 1 + η t (40) Szeregi czasowe y t I x t są wygenerowane niezależnie od siebie, a więc brak jest zależności pomiędzy nimi. Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 25 / 33
Regresja pozorna Model korekty błędem (ECM) Rysunek: Wygenerowane losowo szeregi czasowe y t i x t 0 10 20 30 40 50 60 y_t x_t 0 100 200 300 400 500 600 700 Pomimo braku faktycznej zależności, oba szeregi wykazują rosnącą tendencję. Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 26 / 33 Time
Regresja pozorna Model korekty błędem (ECM) Rysunek: Wykres rozrzutu wygenerowanych szeregów y t i x t rw2 0 10 20 30 40 50 10 20 30 40 50 60 rw1 Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 27 / 33
Regresja pozorna Model korekty błędem (ECM) Regresja liniowa y t względem x t (błędy standardowe w nawiasach): y t = 17.818 + 0.842x t (0.62048) (0.02062) (41) Statystyka testu t-studenta x t : 40.82 R 2 wynosi około 0.705 Z drugiej strony wiemy, że tak naprawdę brak jest prawdziwej zależności pomiędzy tymi zmiennymi. Dlatego powyższe oszacowania są pozorne (spurious). W przypadku regresji pozornej, reszty z modelu liniowego są niestacjonarne i wykazują autkorelację. Składnik resztowy Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 28 / 33
Regresja pozorna Model korekty błędem (ECM) Rysunek: Składnik resztowy z regresji y t względem x t 20 10 0 10 20 0 100 200 300 400 500 600 700 Statystyka Durbina-Watsona: 0.22 Statystyka LM (autokorelacja pierwszego rzędu): 682.958[0.0000] Powrót Time Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 29 / 33
Regresja pozorna Model korekty błędem (ECM) Szczególnym przypadkiem zależności pomiędzy dwoma zmiennymi niestacjonarnymi jest kointegracja. Założmy, że y t oraz x t są zintegrowane w stopniu pierwszym oraz, że składnik resztowy e t, t.że: e t = y t β 0 β 1x t (42) jest stacjonarny. Wtedy powiemy, że zmienne x t oraz y t są skointegorwane. Intuicja(1): Jeżeli zmienne są skointegrowane to podażają za tym samym trendem stochastycznym. Intuicja(2): Jeżeli zmienne są skointegorwane to występuje długookresowa relacja (równowaga) pomiędzy nimi. Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 30 / 33
Testowanie kointegracji Stacjonarność i Integracja Regresja pozorna Model korekty błędem (ECM) Krok pierwszy: badanie stacjonarności zmiennych. Jeżeli zmienna x t oraz y t są zintegrowane w stopniu pierwszym to można przejść do kolejnego etapu. Krok drugi: oszacowanie modelu dla poziomów wybranych zmiennych, a następnie badanie stacjonarności składnika losowego (e t ): Hipotezy testu: e t = y t β 0 β 1 x t (43) H 0 : e t I(1) H 0 : x t and y t nie są skointegorwane H 1 : e t I(0) H 1 : x t and y t są skointegorwane Statystyka testu jest jest analogiczna jak w przyapdku testu ADF, ale wykorzystuje się inne statystyki testowe. (44) Tablica: Critical values Model 1% 5% 10% y t = β 1x t + e t -3.39-2.76-2.45 y t = β 0 + β 1x t + e t -3.96-3.37-3.07 y t = β 0 + δt + β 1x t + e t -3.98-3.42-3.13 Uwagi : wartości krytyczne na podstawie pracy Hamiltona (1994) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 31 / 33
Regresja pozorna Model korekty błędem (ECM) Jeżeli zmienne x t oraz y t są skointegrowane to w modelowaniu można uwzględnić informację od odchyleniu od trendu stochastycznego. e t = y t β 0 β 1 x t (45) Składnik resztowy, e t jest stacjonarny. Ponadto, e t wyraża odchylenie od długookresowego stochastycznego trendu (lub równowagi pomiędzy tymi zmiennymi). Elastyczność długookresowa to β 1 w równaniu (45). W krótkooresowej analizie można uwzględnić odchylenie od równowagi długookresowej wykorzystując opóżniony o jeden okres składnik resztowy, tj. e t 1. P K y t = α 0 + δe t 1 + α i y t i + β i x t i + ε t (46) i=1 Równanie (46) opisuje model korekty błędem (error correction model). Parametr δ identyfikuje tempo powrotu do równowagi dlugookresowej. Uwaga: δ ( 1, 0) okres połowicznego wygaśnięcia (half-life) hl = ln(0.5) ln(1 + δ) i=0 (47) Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 32 / 33
Regresja pozorna Model korekty błędem (ECM) Modelowanie zmiennych niestacjonarnych Trendostacjonarność Trend stochastyczny Model ARDL - poziomy zmiennych + trend deterministyczny Brak kointegracji Elastyczności długookresowe - model dla zmiennych I(1) Model korekty błędem (ECM) Model ARDL - pierwsze przyrosty zmiennych Jakub Mućk Ekonometria Ćwiczenia 5 & 6 Szaeregi czasowe 33 / 33