Wyk ad II. Stacjonarne szeregi czasowe. W wi ekszości przypadków poszukiwanie modelu, który dok adnie by opisywa zachowanie sk adnika losowego " t, polega na analizie pewnej klasy losowych ciagów czasowych klasy stacjonarnych szeregów czasowych. Bardzo specjalna klase procesów stochastycznych, nazywamy procesami stacjonarnymi. Opiera si e ona na za o zeniu, ze proces znajduje si e w szczególnym stanie równowagi statystycznej. Stacjonarność szeregu czasowego wymaga aby wartości średnie oraz odchylenia od wartości średnich by y sta e. De nicja. Szereg x t nazywamy ściśle stacjonarnym (stacjonarnym w we zszym sensie) je zeli aczny rozk ad prawdopodobieństwa zwiazany z m obserwacjami x t1 ; x t ; :::; x tm jest identyczny z m obserwacjami x t1 +; x t +; :::; x tm+ dla dowolnych m; t 1 ; t ; :::; t m ; Innymi s owy szereg x t nazywamy ściśle stacjonarnym je zeli jego w asności nie ulegaja zmianie przy zmianie poczatku skali czasowej. 1 W asności korelacyjne szeregu czasowego 1.1 Wartość średnia i wariancja szeregu stacjonarnego. W szczególności dla m = 1 z za o zenia stacjonarności szeregu czasowego wynika ze rozk ad zmiennej losowej x t nie zale zy od czasu t, zatem równie z od t nie zale z a jego podstawowe charakterystyki (wartość średnia i wariancja sa sta e). Szereg czasowy ma sta a wartość średnia oraz sta a wariancj e Ex t = (1) D x t = E (x t ) = () Jednocześnie wartość określa poziom dooko a którego oscyluje szereg czasowy x t, natomiast wielkość określa rozrzut szeregu czasowego dooko a poziomu. Poniewa z rozk ad zmiennych losowych x t jest jednakowy dla wszystkich t, zatem jego podstawowe charakterystyki moga być oszacowane (wyestymowane) na podstawie wielkości obserwacji x t1 ; x t ; :::; x t : wartość średnia ^ = 1 x t (3) wariancja ^ = 1 [x t ^] (4)
Stacjonarne szeregi czasowe. Wyk ad II. De nicja. Szereg x t dla którego Ex t < 1 dla 0 t nazywamy s abo stacjonarnym (stacjonarnym w szerszym sensie) je zeli Ex t = const cov (x t ; x t+ ) = cov (x 0 ; x ) 8; 0 1 Zatem oczywiste jest, ze proces ściśle stacjonarny o skończonym drugim momencie jest procesem s abo stacjonarnym. Stwierdzenie odwrotne nie jest na ogó prawdziwe. Wyjatek stanowi proces Gaussa, poniewa z jest on ca kowicie scharakteryzowany przez momenty pierwszego i drugiego rz edu. Dlatego proces Gaussa s abo stacjonarny jest zarazem stacionarny ściśle. 1. Funkcja autokowariancji () Z za o zenia stacjonarności szeregu czasowego x t dla m = wynika, ze aczny rozk ad dla dwóch dowolnych (x t ; x t+ ) zale zy tylko od wielkości przesuniecia w czasie i nie zale zy od momentu czasowego t. Tak a kowariancj e nazywamy autokowariancja, poniewa z określa kowariancje dla tego samego szeregu czasowego x t, oraz wyznaczamy jako () = cov (x t ; x t+ ) = E [x t ] [x t+ ] (5) Równie z z za o zenia stacjonarności szeregu czasowego dla funkcji () o wartościach rzeczywistych wynika () = ( ) Zatem w praktyce wystarcza zaznaczyć funkcj e () dla dodatnich argumentów. Wielkość funkcji autokowariancji () w zale zności od wielkości mo ze być oszacowana (wyestymowana) na podstawie wielkości obserwacji x t1 ; x t ; :::; x t : ^ () = 1 dla = 0; 1; :::; 1 Oczywiście dla = 0 mamy [x t ^] [x t+ ^] (6) (0) = = E [x t ] oraz estymator W asności funkcji () : ^ (0) = ^ = 1 [x t ^] 1. (0) = = const. () = ( ) (funkcja parzysta) [ () = ( ) w przypadku zespolonym] 3. j ()j (0)
E. Koz owski 3 1.3 Funkcja autokorelacji r () Jedna z g ównych ró znic pomi edzy szeregiem czasowym a ciagiem próbek losowych polega na tym, ze elementy szeregu czasowego nie sa niezale zne. Wielkość tej zale zności jest mierzona za pomoca wspó czynników korelacji. Zatem stopień zale zności pomi edzy elementami szeregu czasowego odleg ymi o wielkość (dla elementów (x t ; x t+ )) określamy jako r () = E [x t ] [x t+ ] E [x t ] E [x t+ ] 1 = () (0) (7) poniewa z dla szeregów stacjonarnych spe nione jest E [x t ] = E [x t+ ] = (0) Wspó czynnik r () mierzy korelacj e pomi edzy elementami tego samego szeregu dlatego nazywamy go wspó czynnikiem autokorelacji. Wykres funkcji r () od nazywamy korelogramem oraz dla dowolnego mamy 1 r () 1. Dodatkowo z za o zenia stacjonarności szeregu czasowego dla funkcji r () o wartościach rzeczywistych wynika r () = r ( ) Równie z widzimy ze w praktyce wystarcza zaznaczyć funkcj e r () dla dodatnich argumentów. Jako estymator funkcji autokorelacji mo zemy przyjać ^r () = 1 P 1 [x t ^] [x t+ ^] = P [x t ^] ^ () ^ (0) (8) dla = 0; 1; :::; 1 gdzie wielkość ^ oznacza średnia szeregu czaowego. W asności funkcji r () : 1. r (0) = 1. r () = r ( ) (funkcja parzysta) [r () = r ( ) w przypadku zespolonym] 3. 1 r () 1 Uwaga. Jest rzecza oczywista, im bardziej sa oddalone elementy szeregu czasowego x t ; x t+ (im wi eksza jest wielkość przesuni ecia czasowego ) tym mniejsza powinna być wartość bezwzgl edna r () elementy bardziej oddalone sa mniej ze soba skorelowane (wyst epuje tendencja do zanikania korelacji wraz ze wzrostem odst epu czasu). W wiekszości przypadków istnieje (dobieramy) wielkość 0 powy zej której wszystkie wartości funkcji autokorelacyjnej przyjmujemy ze sa to zsamościowo równe zero (8 0 r () 0)
4 Stacjonarne szeregi czasowe. Wyk ad II. 1.4 B edy standardowe estymatorów autokorelacji Aby dobrać model dla szeregu czasowego musimy równie z oszacować b edy standordowe wspó czynników autokorelacji. W tym celu mo zemy skorzystać z wyra zenia na wariancj e estymowanego wspó czynnika autokorelacji stacjonarnego procesu normalnego, które zosta o podane przez Bartlett a. var [r ()] 1 1 i= +1 ^r (i) + ^r (i + ) ^r (i ) 4^r () ^r (i) ^r (i ) + ^r (i) ^r () Zatem b ad standardowy wspó czynnika autokowariancji wynosi (9) S [r ()] = p var [r ()] (10) 1.5 Macierze autokowariancji i autokorelacji Macierz autokowariancji dla stacjonernego szeregu czasowego fx t g 0t jest określona jako 3 (0) (1) () ::: ( 1) (1) (0) (1) ::: ( ) = 6 () (1) (0) ::: ( 3) 7 4 : : : : : 5 ( 1) ( ) ( 3) ::: (0) z w asności funkcji autokorelacji mamy 3 1 r (1) r () ::: r ( 1) r (1) 1 r (1) ::: r ( ) = (0) 6 r () r (1) 1 ::: r ( 3) 7 4 : : : : : 5 = P (11) r ( 1) r ( ) r ( 3) ::: 1 gdzie macierz P określa macierz autokorelacji. Twierdzenie1 Macierze autokorelacji P i autokowariancji Dowód. sa dodatnio określone. Poniewa z macierze autokorelacji P i autokowariancji sa symetryczne, zatem ka zd a macierz symetryczna np. P mo zemy przedstawić jako P = A T A wtedy dla dowolnego x R 1 mamy x T P x = x T A T Ax = (Ax) T Ax = kaxk > 0 identyczny wynik mamy i dla macierzy autokowariancji : Przyk ad 1. z
E. Koz owski 5 iech f" t g t0 jest ciagiem niezale znych zmiennych losowych o rozk adzie normalny (0; 1) : Znajdź funkcj e autokowariancji i autokorelacji dla szeregu a t = 3 + " t + " t 1 Udowadnij ze jest to szereg sciśle stacjonarny. Podaj macierz autokowariancji dla = 0; 1; ; 3 Rozwiazanie. natomiast Ea t = 3 Stad () = cov (a t ; a t+ ) = E (" t + " t 1 ) (" t+ + " t+ 1 ) = = E" t " t+ + E" t " t+ 1 + E" t 1 " t+ + E" t 1 " t+ 1 8 < () = 1 : 0 dla = 0 dla = 1 dla Zatem proces jest stacjonarny w szerszym sensie (s abo), a poniewa z fa t g t0 jest procesem Gaussa zatem jest równie z ściśle stacjonarny. Wspó czynniki autokorelacji 8 < 1 r () = 0:5 : 0 natomiast macierz autokowariancji wynosi P 4 = 6 4 dla = 0 dla = 1 dla 1 0:5 0 0 0:5 1 0:5 0 0 0:5 1 0:5 0 0 0:5 1 3 7 5
6 Stacjonarne szeregi czasowe. Wyk ad II. Przyk ad. iech szereg (t) = X (t) ; 0 t gdzie X zmienna losowa o rozk adzie normalnym (0; ), a (t)- dowolna funkcja nielosowa określona na T = f0; 1; :::; g o wartościach w zbiorze liczb zespolonych. Dla jakich funkcji (t) szereg f (t)g tt jest stacjonarny. Znaleźć funkcj e kowariancji i korelacji takiego szeregu. Rozwiazanie. oraz E (t) = (t) EX = 0 () = cov ( (t) ; (t + )) = (t) (t + ) Aby szereg Gaussowski by stacjonarny wystarczy aby funkcja kowariancji zale za a tylko od przesuni ecia czasowego a nie zale za a od chwili t. Zatem musi być spe nione 8t T (t) (t + ) = (0) () czyli dla np. = 1 Mamy (t + 1) (t) = (0) (1) = const (t) = (0) t w stacjonarnym szeregu czasowym wariancja jest sta a, zatem (0) = j (0)j jj t = const ) jj = 1 wtedy istnieje taka liczba [ stacjonarny je zeli jest postaci ; ) gdzie = e i. Stad wynika f (t)g tt jest Wtedy funkcja kowariancji jest postaci a funkcja korelacyjna (t) = X (0) e it e i = cos + i sin () = j (0)j e i(t+) e it = j (0)j e i r () = () (0) = ei Przyk ad 3. iech fx n g 1n oznacza ciag nieza e znych zmiennych losowych oraz EX n = 0; 1 n dla i = j cov (X i ; X j ) = 0 dla i 6= j iech 1 < < ::: < oraz i [ ; ). Szereg czasowy f n g nz nazywamy prawie okresowym i określonym jako n = X k e i kn
E. Koz owski 7 Udowodnij ze szereg jest stacjonarny oraz znajdź funkcj e kowariancji. Rozwiazanie. Wartość oczekiwana wynosi E n = e ikn EX k = 0 natomiast kowariancja () = cov n+ ; n = E 4 =! 3 X e ik(n+) X k e i kn X k 5 e ik(n+) e i ln E [X k X l ] = l=1 e ik = X e i k zale zy tylko od przesuniecia. Zatem szereg f n g nz jest stacjonarny. Wspó czynnik autokorelacji wynosi r () = () (0) = P e i k = 1 e i k