Analiza szeregów czasowych: 6. Liniowe modele niestacjonarne

Transkrypt

1 Analiza szeregów czasowych: 6. Liniowe modele niestacjonarne P. F. Góra semestr letni 2007/08

2 Warunki stacjonarności modelu AR(p) y n = β 1 y n 1 + β 2 y n β p y n p + α 0 η n. (1) Proces (1) jest stacjonarny wtedy i tylko wtedy, gdy pierwiastki równania λ p β 1 λ p 1 β 2 λ p 2 β p = 0 (2) leża wewnatrz okręgu jednostkowego. Jeżeli któryś pierwiastek leży poza okręgiem jednostkowym, model wybucha. Co się dzieje, jeśli jakiś pierwiastek leży na okręgu jednostkowym? Model jest niestacjonarny, ale czy możemy jakoś sobie z tym poradzić? 6. Liniowe modele niestacjonarne 2

3 Trendy liniowe Rozważmy proces y n+1 = y n + αη n (3) Proces ten jest niestacjonarny, równanie (2) ma dla niego postać λ 1 = 0, ale szereg pierwszych różnic jest stacjonarny: jest stacjonarny! z (1) n y n+1 y n = αη n (4) Ogólnie, jeśli zbudowany ze współczynników procesu wielomian występujacy w równaniu (2) ma postać (λ 1)B p (λ), gdzie B p jest wielomianem stopnia p, majacym wszystkie pierwiastki wewnatrz okręgu jednostkowego, proces taki nazywamy procesem ARIMA(1,p,0). Proces taki ma (lokalny) trend liniowy. 6. Liniowe modele niestacjonarne 3

4 Trendy kwadratowe Podobnie, jeśli zbudowany ze współczynników procesu wielomian występujacy w równaniu (2) ma postać (λ 1) 2 B p (λ), gdzie B p jest wielomianem stopnia p, majacym wszystkie pierwiastki wewnatrz okręgu jednostkowego, proces taki nazywamy procesem ARIMA(2,p,0). Proces taki ma (lokalny) trend kwadratowy. Szereg jego drugich różnic jest stacjonarny. Przykład: y n+1 = 2y n y n 1 + α 0 η n (5a) z (1) n y n+1 y n = z (1) n 1 + α 0η n (5b) z (2) n z (1) n z (1) n 1 = α 0η n (5c) 6. Liniowe modele niestacjonarne 4

5 Przykład szeregu z trendem liniowym time series first differences Niestacjonarny szereg czasowy i stacjonarny szereg pierwszych różnic 6. Liniowe modele niestacjonarne 5

6 Przykład szeregu z trendem kwadratowym time series Niestacjonarny szereg czasowy 6. Liniowe modele niestacjonarne 6

7 first differences second differences Niestacjonarny szereg pierwszych różnic szeregu z poprzedniego rysunku i stacjonarny szereg drugich różnic 6. Liniowe modele niestacjonarne 7

8 Empiryczny sposób postępowania Jeśli domyślamy się, że badany szereg czasowy może mieć trend liniowy, badamy szereg jego pierwszych różnic. Jeśli szereg pierwszych różnic jest niestacjonarny, badamy szereg drugich różnic. W praktycznych zastosowaniach szeregi z trendami liniowymi i kwadratowymi na ogół wystarczaja, możemy się więc ograniczyć do badania pierwszych i drugich różnic. 6. Liniowe modele niestacjonarne 8

9 Przykład szeregu z trendem sześciennym (nierealistyczny) time series first differences second differences third differences Liniowe modele niestacjonarne 9

10 Dopasowywanie modelu Z niestacjonarnego szeregu czasowego tworzymy stacjonarny szereg pierwszych, ewentualnie drugich różnic. Do stacjonarnego szeregu różnic dopasowujemy model ARMA(p,q). Wyjściowy szereg jest wówczas procesem typu ARIMA(p,d,q), gdzie d oznacza rzad różnicy, jaki był potrzebny do uzyskania szeregu stacjonarnego. I w nazwie ARIMA oznacza Integrated wycałkowany, czyli wysumowany. 6. Liniowe modele niestacjonarne 10

11 Przykład Niestacjonarny szereg czasowy i stacjonarny szereg pierwszych różnic 6. Liniowe modele niestacjonarne 11

12 Funkcja korelacji ρ k i funkcja korelacji czastkowej ϕ kk dla szeregu pierwszych różnic z poprzedniego rysunku. Uznajemy, iż ϕ Liniowe modele niestacjonarne 12

13 Ponieważ ϕ 33 0, przyjmujemy, że szereg pierwszych różnic jest procesem AR(p = 2). Z równań Yule a-walkera obliczamy β 1 = , β 2 = Wielomian określajacy stabilność szeregu pierwszych różnic dany jest przez λ 2 β 1 λ β 2, a wobec tego wielomian określajacy stabilność przecałkowanego procesu dany jest przez (λ 1)(λ 2 β 1 λ β 2 ), a zatem badany proces jest procesem ARIMA(2,1,0). Natężenie szumu szacujemy liczac pierwiastek z wariancji szeregu pierwszych różnic. Ostatecznie dla badanego procesu otrzymujemy y n+1 = y n y n y n η n (6) Proces, którego użyto do wygenerowania tego przykładu, miał postać y n+1 = y n y n y n η n 6. Liniowe modele niestacjonarne 13

14 Gdy szum jest silniejszy, sytuacja może się pogorszyć Niestacjonarny szereg czasowy i stacjonarny szereg pierwszych różnic 6. Liniowe modele niestacjonarne 14

15 Funkcja korelacji ρ k i funkcja korelacji czastkowej ϕ kk dla szeregu pierwszych różnic z poprzedniego rysunku. 6. Liniowe modele niestacjonarne 15

16 W tym wypadku też moglibyśmy na oko uznać, że ϕ 33 0, a zatem, że szereg pierwszych różnic można opisać procesem AR(2). Ale czy istnieje jakieś kryterium pozwalajace rozstrzygnać o rzędzie modelu? 6. Liniowe modele niestacjonarne 16

17 Kryterium Akaike AIC Akaike Information Criterion Jest jasne, że jeśli do danych dopasowujemy różne model, dopasowanie będzie tym lepsze, im więcej swobodnych parametrów będziemy mieli do dyspozycji. Z drugiej strony modele ze zbyt duża liczba swobodnych parametrów sa uważane za niedobre. Powinniśmy więc jednocześnie nagradzać dobre dopasowanie i karać za zbyt wiele parametrów. Zakładamy, że błędy pochodza z rozkładu normalnego i że dopasowanie przeprowadzamy metoda najmniejszych kwadratów. 6. Liniowe modele niestacjonarne 17

18 AIC = ln Q + 2 p N (7) gdzie Q jest rezydualnym błędem: Przy dopasowywaniu modelu AR(p), Q = n z n p j=1 β j z n j gdzie {β j } p j=1 s a dopasowanymi parametrami dla procesu rzędu p. Im wyższe p, tym, potencjalnie, mniejsze Q, ale zarazem tym większy jest człon 2p/N. Dobieramy takie p, aby AIC było najmniejsze. Uwaga: gdyby błędy nie pochodziły z rozkładu normalnego, trzebaby przyjać inna definicję AIC. 2 (8) 6. Liniowe modele niestacjonarne 18

19 AIC p Kryterium Akaike sugeruje użycie modelu AR(6). 6. Liniowe modele niestacjonarne 19

20 Dla n = 6 otrzymalibyśmy β 1 = , β 2 = , β 3 = , β 4 = , β 5 = , β 6 = , a zatem wyjściowy szereg byłby procesem ARIMA(6,1,0) o parametrach y n+1 = y n y n y n y n y n y n y n η n (9) Dla porównania, przyjęcie p = 2 daje β 1 = , β 2 = i dalej ARIMA(2,1,0): y n+1 = y n y n y n η n (10) co jest nieco gorszym przybliżeniem idealnych parametrów użytych do wygenerowania szeregu. 6. Liniowe modele niestacjonarne 20

21 Kryterium Akaike w zwykłej metodzie najmniejszych kwadratów 6 dane generating function y(x) x Punkty wygenerowane według wzoru y n = x 3 n x2 n 2.5 x n η n (11) 6. Liniowe modele niestacjonarne 21

22 6 5 dane x x AIC = x x x AIC = x x x x AIC = y(x) x Wyniki dopasowania Dopasowane krzywe trzeciego i czwartego stopnia w skali rysunku nierozróżnialne 6. Liniowe modele niestacjonarne 22

23 Szeregi sezonowe Staramy się zidentyfikować okres, po czym tworzymy szereg odpowiednich różnic 3 szereg szereg 32-gich roznic 2 1 y n n Do stacjonarnego szeregu różnic dopasowujemy jakiś model ARMA 6. Liniowe modele niestacjonarne 23