Trochę teorii W celu przeprowadzenia rygorystycznej ekonometrycznej analizy szeregu finansowego będziemy traktowali obserwowany ciąg danych (x 1, x 2,..., x T ) jako realizację pewnego procesu stochastycznego. Proces stochastyczny to funkcja losowa, czyli funkcja matematyczna określona na pewnej dziedzinie, której wartości są ustalane w sposób losowy. W praktyce dziedziną, na której zdefiniowana jest funkcja, jest najczęściej przedział czasowy (taki proces stochastyczny nazywany jest szeregiem czasowym) lub obszar przestrzeni (wtedy nazywany jest polem losowym). Jako przykłady szeregów czasowych można podać: fluktuacje giełdowe, sygnały, takie jak mowa, dźwięk i wideo, dane medyczne takie jak EKG i EEG, ciśnienie krwi i temperatura ciała, losowe ruchy takie jak ruchy Browna. Matematycznie, proces stochastyczny jest zazwyczaj definiowany jako rodzina zmiennych losowych: t T X t gdzie: X t jest zmienną losowa, a T to zbiór indeksów procesu stochastycznego. Zbiór wartości zmiennych losowych X t nazywamy przestrzenią stanów procesu stochastycznego, zaś pojedyncza wartość zmiennej losowej to stan procesu stochastycznego. Procesy stochastyczne zdefiniowane na dyskretnej przestrzeni stanów nazywane są łańcuchami. Procesy stochastyczne dzielimy na deterministyczne i niedeterministyczne. Proces deterministyczny jest w kazdej chwili czasu jednoznacznie określony. Charakteryzuje się tym, że na podstawie bieżącej próbki jesteśmy w stanie przewidzieć wartości procesu w przyszłości. Przykładem procesu deterministycznego jest trend liniowy. Procesy niedeterministyczne, nazywane procesami stochastycznymi, charakteryzują się tym, że ich wartości w danej chwili czasu nie da się przewidzieć. Można jedynie określić przedział w którym z określonym prawdopodobieństwem znajduje się ich wartość. Proces stochastyczny możemy traktować jako funkcję czasu i interpretować na dwa odmienne sposoby. Dla ustalonej chwili czasu proces stochastyczny jest zmienną losową, dla ustalonej wartości zmiennej losowej jest funkcją czasu, nazywaną realizacją procesu stochastycznego. Procesy stochastyczne dzielimy na procesy ergodyczne i nieergodyczne. Procesy ergodyczne, to procesy które mogą być opisane przez momenty rzędu co najwyżej 2. Ich wartość oczekiwana w danej chwili jest równa wartości średniej z dowolnej realizacji. Szczególnym przypadkiem są procesy stacjonarne, czyli takie w których istnieją zależności opisujące momenty, które są niezależne od czasu. Porcesy nieergodyczne, to takie dla których nie istnieją żadne stałe w czasie charakterystyki. 1
Podczas zajęć będziemy zajmować się głownie procesami ergodycznymi zdefiniowanymi na przestrzeniach ciągłych. Biały szum Jeżeli proces jest stacjonarny a zmienne losowe z których się on składa są niezależne od siebie i pochodzą z rozkładu o średniej 0 i stałej wariancji równej σ 2. ε iid (0, σ 2 ) Jeżeli reszt są niezależne od siebie, to zachowują się w sposób czysto losowy. Znają wartość reszty z okresu t nie jesteśmy w stanie przywidzieć czy reszta w okresie t + 1 będzie dodatnia, czy też ujemna. W całkowicie odmienny Rysunek 1: Biały szum y 2 1 0 1 2 0 20 40 60 80 100 x sposób zachowują się zmienne losowe, które są skorelowane. Dodatnia korelacja zmiennych sprawia, że jeżeli wartość w okresie t jest dodatnia to będzie większe prawdopodobieństwo, że w okresie t + 1 będzie dodatnia, niż ujemna. Natomiast jeżeli w okresie t wartość była ujemna, to będzie wyższe prawdopodobieństwo otrzymania w okresie t + 1 wartości ujemnej niż wartości dodatniej. Jeżeli porównamy rysunki to zauważymy, że na rysunku z dodatnią autokorelacją wykres realizacji pojedynczych zmiennych przecina oś zerową znacznie rzadziej niż wykres białego szumu. Dodatnia autokorelacja jest znacznie częściej występującą formą autokorelacji, niż autokorelacja ujemna. Jest ona powszechnym zjawiskiem w przypadku modeli szacowanych na szeregach czasowych. Występuje w przypadku, gdy zjawisko losowe zaburzające przeciętny poziom zmiennych ma wpływ na ich wartości w więcej niż jednym okresie. 2
Rysunek 2: Dodatnia autokorelacja y1 2 1 0 1 2 0 20 40 60 80 100 x Ujemna autokorelacja zmiennych losowych powoduje, że większe jest prawdopodobieństwo zmiany znaku przez zmienną losową. Jeżeli w okresie t ma ona wartość dodatnią, to w okresie t + 1 ze znacznie większym prawdopodobieństwem będzie ona ujemna niż dodatnia. Natomiast jeżeli w okresie t jest ujemna, to ze znacznie większym prawdopodobieństwem będzie ona w okresie t + 1 dodatnia. Jeżeli porównamy wykres procesu stochastycznego z Rysunek 3: Ujemna autokorelacja y2 2 1 0 1 2 3 0 20 40 60 80 100 x ujemną autokorelacją z wykresem białego szumu, to zauważymy, że znacznie częściej przecina on poziom 0. Proces AR 3
Istnieje wiele form autokorelacji. Każda z nich prowadzi do innej postaci macierzy wariancji-kowariancji składnika losowego σ 2 Ω. Najbardziej rozpowszechnioną formą autokorelacji jest proces autoregresyjny pierwszego rzędu. W takim przypadku przyjmuje on postać: ε t = ρε t 1 + φ t (1) gdzie φ iid (0, σ 2 ) jest wektorem zmiennych losowych o niezależnym rozkładzie ze średnią zero i stałą wariancją wynoszącą σ 2. Zakładamy, że wartość składnika losowego jest równa ρ razy wartość składnika z poprzedniego okresu plus innowacja φ t. Nowy komponent φ t ma średnią zero, stałą wariancję i jest niezależny w wymiarze czasu. Możemy ten wzór uogólnić. Proces autoregresyjny rzędu p ma następującą postać analityczną. Proces MA ε t = ρ 1 ε t 1 + ρ 2 ε t 2 +... + ρ t p ε t p + φ t (2) Inną często spotykaną formą autokorelacji jest proces średniej ruchomej Moving Average. Błąd z okresu t jest średnią z pewnej ilości okresów. y t = µ + ε t θε t 1 (3) Podobnie jak w przypadku procesu AR możemy wzór uogólnić. Proces średniej ruchomej rzędu q dany jest przez 0.0.1 Operator opóźnień y t = µ + ε t θ 1 ε t 1 θ 2 ε t 2... θ q ε t q (4) Użytecznymi narządziemi skracającym zapis postaci analitycznej modeli dynamicznych są oprerator opóźnień i operator różnicowy. Operator opóznień jest zdefiniowany następująco: Lx t = x x 1 Ten operator możemy w obliczeniach traktować jak liczbę. Ma on następujące własności: La = a L 2 x t = L(Lx t ) = Lx t 1 = x t 2 L p x t = x t p 4
0.0.2 Operator różnicowy Drugim użytecznym narzędziem jest operator różnicowy x t = x t x t 1 Ten operator również może w obliczeniach być traktowany jak liczba. Ma on następujące własności: a = 0 2 x t = x t = (x t x t 1 ) = (x t x t 1 ) (x t 1 x t 2 ) p x t =... = (x t x t 1 )... (x t (p+1) x t p ) x t = x t 1 + x t x t = (1 L)x t Możemy połączyć użycie obu operatorów: 2 x t = (1 L) 2 x t = (1 2L + L 2 )x t = x t 2x t 1 + x t 2 = x t x t 1 Dodatkowo zauważmy, że: (1 L) 2 x t = (1 L)(1 L)x t = (1 L)(x t x t 1 ) = (x t x t 1 ) (x t 1 x t 2 ) Dynamiczne równanie regresji możemy przedstwić jako: y t = α + β i L i x t + ε t = α + B(L)x t + ε t i=0 gdzie B jest wielomianem zmiennej L: B(L) = β 0 L 0 + β 1 L 1 + β 2 L 2 +... Wielomian operatora opóźnień to wyrażenie postaci: A(L) = 1 + al + (al) 2 + (al) 3 +... = al i i=0 jeśli a < 1, wtedy: A(L) = 1 1 al 5
0.0.3 Model ARIMA Nazwa modelu jest zbitką trzech nazw. AR pochodzi od procesu autoregrasyjnego, I od procesu zinterowanego, a MA od procesu średniej ruchomej. Postać analityczna modelu jest dość skomplikowana: d y t = µ + γ 1 d y t 1 + γ 2 d y t 2 +... + γ p d y t p + ε t θ 1 ε t 1... θ q ε t q ale zapis można uprościć stosując wielomiany operatora opóźnień i operator różnicowy: C(L)[(1 L) d y t ] = µ + D(L)ε t Innym sposobem zapisu modelu jest ARIMA(p, d, q), gdzie p oznacza rząd procesu autoregresyjnego, q rząd procesu średniej ruchomej, a d rząd integracji procesu. 0.0.4 Stacjonarność Lemat 1 Proces stochastyczny jest słabo (wariancyjnie) stacjonarny jeśli var(x i ) = σ 2 < oraz cov(x t, x t+h ) = cov(x t+j, x t+j+h ) = γ h dla dowolnych t, j, h. Intuicyjnie proces stochastyczny jest stacjonarny jeżeli ma skończoną wariancję oraz kowariancje między obserwacjami nie zależą od czasu, a jedynie od odległości między obserwacjami. Lemat 2 Proces zintegrowany stopnia zero, oznaczamy I(0). Można przedstawić go w postaci x t E(x t ) = i=0 ε t i, gdzie ε t IID (0, σ 2 ) - biały szum. Lemat 3 Proces stochastyczny x t nazywamy procesem zintegrowanym rzędu d jeżeli d x t jest I(0). 0.0.5 Pierwiastki jednostkowe i Test Dickey a-fullera Jeżeli proces stochastyczny zawiera pierwiastek który leży wewnątrz bądź na obrzeżu koła jednostkowego, to jest procesem niestacjonarnym. Test Dickey a- Fullera wykrywa obecność pierwiastków jednostkowych. Jeżeli mamy model autoregresji w którym zmienna y t jest szeregiem czasowymi postaci: y t = ρy t 1 + ε t (5) Chcemy sprawdzić czy zmienna y t jest stacjonarna. Wydaje się, że wystarczy przeprowadzić test czy ρ = 1 za pomocą statystyki t-studenta. 6
Jeżeli składnik losowy w równaniu (5) jest procesem białego szumu, to jeśli ρ < 1 to ten proces jest zintegrowany stopnia zero. Lecz w przypadku gdy ρ = 1 równianie reprezentuje proces błądzenia losowego. Wtedy proces generujący y t jest niestacjonarny. W takim przypadku statystyka t nie będzie miała rozkładu t-studenta i nie możemy jej wartości używać do standardowych testów. Rozwiązaniem problemu testowania stopnia integracji jest procedura zaproponowana przez Dickey a i Fullera i nazwana od nazwisk autorów testem DF. Test DF weryfikuje hipotezę, że w równaniu (5) ρ = 1, czyli że mamy pierwiastek jednostkowy. Dlatego ten test również jest nazywany testem pierwiastka jednostkowego. Zapiszmy równanie (5) w postaci: i testujemy hipotezę zerową: y t = (1 + δ)y t 1 + ε t y t y t 1 = δy t 1 + ε t y t = δy t 1 + ε t (6) H 0 : δ = 0 H 1 : δ < 0 odrzucenie hipotezy zerowej δ = 0 na rzecz hipotezy alternatywnej oznacza że y t nie ma pierwiastków w kole jednostkowym, jest zintegrowane stopnia zero I(0). Statystyka testowa t nie ma rozkładu t-studenta. Wartości krytyczne odczytujemy z tablic wartości testu Dickey a-fullera. Wszystkie wartości krytyczne są w lewym ogonie rozkładu i są znacznie niższe od statystyk t-studenta. Wartości krytyczne testu Dickey-Fuller a otrzymywane są za pomocą symulacji Monte Carlo, więc są one obciążone pewnym błędem. Dlatego niektóre tablice podają nie jedną, a dwie wartości krytyczne dolną i górną. Pomiędzy nimi leży obszar braku konkluzji. 0.0.6 Test ADF Test Dickey a-fullera nie uwzględnia faktu, że składnik losowy równania (5) może zawierać autokorelację. W przypadku występowania autokorelacji estymatory MNK są nieefektywne. Wobec tego stosuje się Rozszerzony test Dickey a-fullera (Augmented Dickey-Fuller test). W równaniu regresji po prawej stronie umieszcza się opóźnione wartości zmiennej zależnej. Równanie przyjmuje postać: k y t = δy t 1 + γ i y t i + ε t (7) i=1 7
Sposób testowania oraz wartości krytyczne testu są identyczne jak w teście Dickey-Fullera. 0.0.7 Kointegracja i Test Engla-Grengera Jeżeli mamy równanie regresji w którym zmienne x t i y t są szeregami czasowymi, to te szeregi mogą zawierać trendy czasowe. Wobec tego są one niestacjonarne. Jeżeli istnieje między nimi długookresowy związek, to mówimy że procesy x t i y t są skointegrowane jeżeli odchylenia od ścieżki długookresowej są stacjonarne. Formalna definicja kointegracji podana przez Engla i Grengera jest następująca: Lemat 4 Mówimy, że szeregi czasowe są skointegrowane stopnia (d, b) co zapisujemy: x t, y t CI(d, b) jeżeli: 1. Oba szeregi są zintegowane stopnia b 2. istnieje kombinacja liniowa tych zmiennych a 1 x t + a 2 y t, która jest zintegrowana stopnia d b Lemat 5 Wektor [a 1, a 2 ] nazywamy wektorem kointegrującym. Testowanie kointegracji jest analogiczne do testowania integracji. Sprawdzamy czy kombinacja liniowa zmiennych jest I(0). Test przeprowadzamy za pomocą procedury zaproponowanej przez Engla i Grengera. 1. Testujemy stopień integracji zmiennych związanych z badaną długookresową zależnością. Jeżeli w modelu mamy więcej niż dwie zmienne to stopień integracji zmiennej zależnej nie może być wyższy niż stopień integracji którejkolwiek ze zmiennych objaśniających. Ponadto liczba zmiennych o stopniu integracji wyższym od zmiennej zależnej modelu, powinna być albo równa zero, albo powinny być dwie takie zmienne. 2. Jeżeli znamy postać wektora kointegrującego [1, β] to test Dickey a- Fullera na kointegrację polega na obliczeniu statystyki t-studenta dla parametru δ w regresji u t = δu t 1 + ε t (8) gdzie: u t = y t βx t 8
i porównaniu jej z wartością krytyczną z tablic dla testu DF. Dla testu ADF procedura jest analogiczna. Obliczamy statystykę t dla parametru δ z równania: k u t = δu t 1 + δ i u t i + ε t (9) Jeżeli relacja długookresowa nie jest znana a prori to najpierw szacujemy MNK parametry wektora kointegrującego. i=1 y t = β 1 x 1 +... + β k x k + ν t Następnie do równania (8) lub (9) w zależności od postaci testu zamiast u t wstawiamy oszacowane wektor reszt ν, więc: lub w przypadku testu ADF: ν t = δν t 1 + ε t ν t = δν t 1 + k δ i ν t i + ζ t i=1 Podobnie jak w przypadku testu integracji statystyka wartości krytyczne dla statystyki t-studenta odczytujemy z tablic testu DF. Gdy musimy oszacować wektor kointegrujący wartości krytyczne dla statystyki testowej zależą również od liczby szacowanych parametrów wektora kointegrującego m. 0.0.8 Mechanizm korekcji błędem (ECM) Jeżeli dwa szeregi czasowe x t i y t są niestacjonarne i skointegrowane, to ich kointegracja powoduje, że składnik losowy relacji długookresowej nie zwiększa się. Engle i Grenger udowodnili, że każdy szereg skointegrowany ma reprezentację za pomocą mechanizmu korekty błędem. Twierdzenie odwrotne jest również prawdziwe, tzn. każdy mechanizm korekty błędem można przedstawić za pomocą szeregów skointegrowanych. Rozpatrzmy model: y t = βx t + ε t (10) gdzie y t oraz x t są I(1). Przypuśćmy że y t i x t są CI(1, 1) z wektorem kointegrującym [ 1, β]. Wobec tego model (10) można przedstawić za pomocą mechanizmu korekty błędem y t = α 1 x t + α 2 (y t 1 βx t 1 ) + ε t (11) 9
gdzie α 2 < 0. Ten model szacuje się również za pomocą dwustopniowej procedury Engla-Grengera. W pierwszym kroku szacujemy równanie (10) za pomocą MNK i testujemy hipotezę o stacjonarności reszt. Jeśli są stacjonarne to szacujemy (11) zastępując β otrzymanym w pierwszym kroku estymatorem. W ten sposób w równaniu (11) wszystkie zmienne są stacjonarne. 10