Analiza i identyfikacja szeregów czasowych

Transkrypt

1

2 Analiza i identyfikacja szeregów czasowych

3 Monografie Politechnika Lubelska Politechnika Lubelska Wydział Zarządzania ul. Nadbystrzycka Lublin

4 Edward Kozłowski Analiza i identyfikacja szeregów czasowych Politechnika Lubelska Lublin 2015

5 Recenzenci: prof. dr hab. Witold Rzymowski dr hab. Stanisław Gędek, prof. Politechniki Rzeszowskiej Publikacja wydana za zgodą Rektora Politechniki Lubelskiej Copyright by Politechnika Lubelska 2015 ISBN: Wydawca: Politechnika Lubelska ul. Nadbystrzycka 38D, Lublin Realizacja: Biblioteka Politechniki Lubelskiej Ośrodek ds. Wydawnictw i Biblioteki Cyfrowej ul. Nadbystrzycka 36A, Lublin tel. (81) , wydawca@pollub.pl Druk: TOP Agencja Reklamowa Agnieszka Łuczak

6 Spis tre±ci Wst p 9 1 Matematyczne metody prognozowania Szeregi czasowe Etapy budowy modeli matematycznych Matematyczne modele dynamiczne Identykacja nielosowych skªadowych Metody identykacji nielosowych skªadowych Metody analityczne Klasyczna metoda najmniejszych kwadratów Identykacja trendu w szeregu czasowym Identykacja funkcji wielomianowej w szeregu czasowym Metoda najwi kszej wiarygodno±ci Metody algorytmiczne Ruchoma ±rednia rz du m Metoda wykªadniczych wag ruchomej±redniej Metoda wykªadniczych wag ruchomej±redniej dla przypadku niesko«czonejprzeszªo±ci Aproksymacja wielomianowa Metoda ró»nicowa Zastosowanie metody ró»nicowej Wpªyw metody ró»nicowejna skªadnik losowy

7 6 Spis tre±ci Metoda doboru stopnia wielomianu Analiza waha«okresowych Analiza trendów fazowych Analiza harmoniczna Identykacja skªadnika losowego Badanie losowo±ci Badanie rozkªadu skªadnika losowego Werykacja hipotezy o zerowej warto±ci oczekiwanej skªadnika losowego Werykacja hipotezy o wariancji skªadnika losowego Badanie normalno±ci rozkªadu szeregu reszt Badanie korelacji skªadnika losowego Stacjonarne szeregi czasowe Wªasno±ci stacjonarnych szeregów czasowych Analiza korelacyjna Funkcja autokowariancji Funkcja autokorelacji Macierze autokowariancji i autokorelacji Analiza spektralna Kowariancja a g sto± spektralna Korelacja a g sto± spektralna Spektralne przedstawienie stacjonarnych szeregów czasowych Intensywno± Modele stacjonarnych szeregów czasowych Zbie»no± szeregów czasowych Modele autoregresji AR(p) Model autoregresji rz du pierwszego Model autoregresji rz du drugiego Model autoregresji rz du p...134

8 Spis tre±ci Modele ruchomej ±redniej MA(q) Modele autoregresji i ruchomej ±redniej ARMA Operatory przesuni cia Problem jednoznaczno±ci identykacji modeli ARMA Operatory F + i F Sposoby redukcji modeli ARMA Analiza stacjonarno±ci szeregów czasowych Modele niestacjonarne Szeregi TS i DS TestDF TestADF Test KPSS Niestacjonarne szeregi czasowe Model ARIMA(p, r, q) Wªasno±ci modeli ARIMA Transformacja modeli ARIMA Identykacja modeli ARIMA Szeregi warunkowo normalne Model ARCH Model GARCH Model RGARCH Model EGARCH Model TARCH Model HARCH Filtracja ci gów warunkowo normalnych Twierdzenie o korelacji normalnej Równania ltracji liniowej Zastosowanie równa«ltracji liniowej Filtracja modeli AR(p) Filtracja modeli MA(q)...253

9 8 Spis tre±ci Filtracja modeli ARMA(p,q) i ARIMA(p,r,q) Filtracja modeli ARCH(p) Spis rysunków Indeks Bibliograa

10 Wst p Prognozowanie technicznych, zycznych, ekonomicznych itp. systemów (obiektów, zjawisk) dynamicznych nie jest ªatwe. W wi kszo±ci przypadków na zachowanie tych systemów dodatkowo wpªywaj czynniki losowe, które wywoªuj niepo» dane zakªócenia trajektorii. Aby móc dokªadnie prognozowa badane zjawisko nale»y zbudowa model opisuj cy jego zachowanie oraz dokona identykacji parametrycznej na podstawie danych empirycznych pochodz cych z poprzednich okresów. Prognoza szeregu czasowego polega nie tylko na oszacowaniu wielko±ci funkcji nielosowej (cz ±ci deterministycznej) ale równie» na przewidywaniu zachowania zaburze«zewn trznych. Do opisu zachowa«systemów najcz ±ciej u»ywane s procesy stochastyczne. W j zyku greckim sªowo στoχoς oznacza cel, prognoza. Od niego pochodzi sªowo στoχαστικη sztuka przewidywania, prognozowania. Jako odpowiednik w j zyku ªaci«skim mo»emy uzna Ars Conjectandi. Dokªadnie pod takim tytuªem Jacob Bernoulli w 1713 r. opublikowaª swoj ksi»k z kombinatoryki i rachunku prawdopodobie«stwa, gdzie mi dzy innymi znajduje si pierwsza wersja centralnego twierdzenia granicznego prawo wielkich liczb. Niniejsza ksi»ka przedstawia matematyczne podej±cie do analizy i identykacji szeregów czasowych. Identykacj szeregów prowadzimy dwuetapowo: najpierw modelujemy i identykujemy cz ± deterministyczn, a nast pnie skªadnik losowy. W pracy przedstawiono sposoby okre±lenia zale»no±ci deterministycznych wyst puj cych w szeregach czasowych oraz metody identykacji zaburze«zewn trznych wyst puj cych w tych szere- 9

11 10 Wst p gach. W tym celu u»yto analizy korelacyjnej i spektralnej. Za pomoc ruchomej ±redniej oraz metody wykªadniczych wag ruchomej ±redniej pokazano mo»liwo±ci cz ±ciowej eliminacji zaburze«zewn trznych w modelu, co pomaga w odgadni ciu postaci cz ±ci deterministycznej. W pracy równie» przedstawiono metod ró»nicow, za pomoc której mo»emy dobiera odpowiedni wielomian aproksymuj cy cz ± deterministyczn. Do wyznaczenia estymatorów parametrów strukturalnych cz ±ci deterministycznej szeregu czasowego zastosowano klasyczn metod najmniejszych kwadratów. Modelowanie i identykacj zaburze«zewn trznych przeprowadzono wykorzystuj c metod momentów oraz metod najwi kszej wiarygodno±ci. W ksi»ce podano wªa±no±ci szeregów stacjonarnych i niestacjonarnych oraz klasyczne metody werykacji stacjonarno±ci oparte na testach Dickey-Fullera oraz tescie Kwiatkowskiego-Phillipsa-Schmidta-Shina. Dodatkowo przedstawiono wªasno±ci klasycznych szeregów stacjonarnych opisanych za pomoc modeli AR, MA, ARMA oraz wªasno±ci szeregów niestacjonarnych opisanych za pomoc modeli ARIMA, ARCH, GARCH, TARCH, EGARCH itp. Do ka»dego z modeli podano algorytmy identykacji parametrycznej. Identy- kacj procesów stacjonarnych oparto na zastosowaniu metody momentów, natomiast do identykacji modeli niestacjonarnych zastosowano metod najwi kszej wiarygodno±ci. Równie» przedstawiono zagadnienie ltracji szeregów gaussowskich (warunkowo gaussowskich) oraz wykorzystano je do estymacji parametrów modeli AR, MA, ARMA, ARIMA oraz modeli rodziny ARCH. Materiaª zawarty w pracy mo»e by pomocny studentom, pracownikom naukowym oraz osobom, które dokonuj identykacji zale»no±ci zachodz cych w sytemach technicznych, zycznych, ekonomicznych itp. Autor zakªada,»e czytelnik zna podstawowe zagadnienia z teorii rachunku prawdopodobie«stwa i statystyki matematycznej, dlatego nie s one omawiane w tej pracy.

12 Rozdziaª 1 Matematyczne metody prognozowania 1.1 Szeregi czasowe Obserwuj c zachowanie pewnego zjawiska (procesu) technicznego, zycznego, ekonomicznego itp. odczytujemy i notujemy jego warto±ci, tworz c tym samym baz danych. Analizuj c warto±ci staramy si skonstruowa model matematyczny (system), który mo»liwie dokªadnie mógªby opisywa przebieg tego zjawiska. Najcz ±ciej zachowanie systemu modelujemy za pomoc procesu stochastycznego z czasem dyskretnym, który nazywamy szeregiem czasowym. Podstawowe zadanie polega na identykacji nielosowych skªadowych oraz zaburze«zewn trznych wyst puj cych w szeregu. W latach 80 ubiegªego stulecia analiza szeregów czasowych (ASC) byªa jednym z najbardziej rozwijaj cych si dziaªów rachunku prawdopodobie«- stwa i statystyki matematycznej. ASC, w oparciu o teoretyczne wyniki teorii procesów stochastycznych, staªa si jednym z narz dzi statystyki matematycznej. Wykorzystuje si j w ró»norodnych badaniach zycznych, technicznych, ekonomicznych, lingwistycznych, biologicznych, socjologicznych itp. W ka»dym z przypadków mamy do czynienia z obserwacj albo stochastycznego szeregu stacjonarnego albo szeregu ró»ni cego si od stacjonarnego istnieniem czynników nielosowych (np. trendu, okresowo±ci itd.) 11

13 12 1. Matematyczne metody prognozowania W literaturze mo»emy zaobserwowa dwa podstawowe podej±cia do analizy szeregów czasowych. Pierwsze,zwi zane z badaniem zwi zków pomi dzy elementami szeregu,nazywane jest analiz korelacyjn szeregu czasowego. Fundamentem tego podej±cia jest szacowanie funkcji korelacyjnych wykorzystuj ce metody parametryczne. Drugie podej±cie zwi zane jest z analiz cz stotliwo±ciowych charakterystyk badanego szeregu oraz nazywane jest analiz spektraln szeregu czasowego,która wykorzystuje ró»norodne techniki spektralne,asymptotyczne,funkcjonalne. Niech (Ω, F, P) b dzie przestrzeni probabilistyczn, Z zbiór liczb caªkowitych, N zbiór liczb naturalnych,natomiast N 0 = N {0}. Denicja 1.1 Szeregiem czasowym {x t } t T nazywamy proces stochastyczny z czasem dyskretnym. W zale»no±ci od potrzeb b dziemy dalej przyjmowa T = Z, T = N lub T = N 0. Je»eli {x t } t T jest szeregiem czasowym,to dla ka»dego t T x t :Ω R. W teorii szeregów czasowych rozwa»ane s zmienne losowe o warto±ciach zespolonych,wtedy dla ka»dego t T x t :Ω C, gdzie C oznacza zbiór liczb zespolonych. Przy ustalonym ω Ω ci g {x t (ω)} t T jest ci giem liczb rzeczywistych (zespolonych) nazywanym realizacj szeregu czasowego {x t } t T. Denicja szeregu czasowego oparta jest na poj ciu zmiennej losowej x t zale»nej od parametru t (czasu). Wobec powy»szego mamy do czynienia ze sparametryzowan rodzin zmiennych losowych. Rozkªady tych zmiennych losowych,a w szczególno±ci ich pierwsze i drugie momenty równie» mog zale»e od czasu t. Zazwyczaj zakªada si,»e odst py pomi dzy t i i t i+1 s jednakowe. Poni»ej przyjmujemy T = N.

14 1.1. Szeregi czasowe 13 Struktura i klasykacja podstawowych czynników 1. Trend. Czynnik ksztaªtuj cy ogóln tendencj rozwojow. Praktycznie czynnik trendu opisywany jest za pomoc nielosowej funkcji f tr (t). W wi kszo±ci przypadków funkcja trendu jest funkcj liniow. 2. Sezonowo±. Czynnik ksztaªtuj cy okresowe wahania analizowanego zjawiska w ci gu roku. Wyniki dziaªa«czynników sezonowych modelujemy za pomoc nielosowej funkcji ϕ(t). Do modelowania powy»szej funkcji u»ywane s zazwyczaj funkcje trygonometryczne; 3. Cykliczno±. Czynnik ksztaªtuj cy zmiany analizowanego zjawiska pod wpªywem dªugoczasowych cykli o charakterze ekonomicznym, demogracznym lub astrozycznym. Wyniki dziaªa«czynników cyklicznych opisujemy za pomoc funkcji nielosowej ψ(t). 4. Losowo±. Czynnik ksztaªtuj cy wahania (uktuacje) o charakterze losowym. Wyniki dziaªa«losowych czynników modelujemy za pomoc zmiennych losowych ε t,t=1, 2,... (sparametryzowanej rodziny zmiennych losowych). Oczywi±cie w szeregu czasowym nie zawsze uczestnicz wszystkie cztery czynniki. W niektórych przypadkach uczestnicz czynniki trendu, sezonowe i losowe, w niektórych cykliczne i losowe,a w niektórych tylko losowe. Jednak we wszystkich rozwa»anych przypadkach zakªadamy istnienie czynników losowych. Zatem warto±ci szeregu czasowego w czasie t mo»emy przedstawi za pomoc wzoru x t = λ 1 f tr (t)+λ 2 ϕ(t)+λ 3 ψ(t)+ε t dla t N, (1.1) gdzie { 1, je»eli i-ty czynnik wyst puje w szeregu, λ i = 0, w przeciwnym razie. Wnioskowanie o istnieniu i-tego czynnika mo»e by oparte na analizie istoty zadania (ma charakter aprioryczny, teoretyczny w tym celu wykorzystujemy publikacje, ekspertyzy opracowane wcze±niej) lub na podstawie analizy

15 14 1. Matematyczne metody prognozowania statystycznej badanego szeregu (analizie trajektorii i wªasno±ci badanego zjawiska). 5. Trend stochastyczny. Czynnik ksztaªtuj cy dynamik o charakterze losowym. W przypadku trendu stochastycznego wªasno±ci dynamiczne szeregu zmieniaj si w czasie. Trend stochastyczny w szeregu czasowym powstaje w wyniku integracji poprzednich zaburze«. Stosuj c metod ró»nicow eliminujemy trend stochastyczny otrzymuj c szereg w postaci kombinacji liniowej w/w czynników. Gªównym celem analizy szeregu czasowego jest identykacja modelu matematycznego opisuj cego zachowanie badanego zjawiska. Obserwuj c realizacj szeregu czasowego {x t } t T nale»y: 1. okre±li które z nielosowych funkcji f tr (t),ϕ(t),ψ(t) wyst puj w modelu (1.1) (nale»y wyznaczy warto±ci parametrów λ i,i=1, 2, 3) oraz dla ka»dego λ i =1ustali posta analityczn funkcji nielosowej; 2. skonstruowa estymatory dla nielosowych funkcji wyst puj cych w szeregu czasowym (1.1); 3. dobra model opisuj cy zachowanie funkcji losowej ε t oraz dobra estymatory parametrów rozkªadu. Realizacja zada«(1-3) jest podstaw do okre±lenia krótko- i ±redniookresowych prognoz badanego zjawiska. 1.2 Etapy budowy modeli matematycznych Modele matematyczne opisuj ce zachowanie zjawisk zawieraj pewne parametry. Aby móc dokona prognoz nale»y je wyestymowa (oszacowa ) na podstawie danych z obserwacji. W praktyce wa»ne jest, aby korzysta z mo»liwie najmniejszej liczby parametrów. Je»eli uwzgl dnimy w modelu zbyt maª liczb parametrów, to nie uzyskamy prawidªowej zale»no±ci wyst puj cej w szeregu czasowym. Natomiast uwzgl dnienie w modelu zbyt

16 1.3. Matematyczne modele dynamiczne 15 du»ej liczby parametrów prowadzi do wzrostu wariancji prognoz (tym samym prognozy s mniej efektywne, trafne). Naszym celem jest otrzymanie modelu nie tylko adekwatnego ale i oszcz dnego (modelu uwzgl dniaj cego parametry najistotniejsze). Je»eli rozumiemy mechanizm badanego zjawiska, to jego zachowanie mo»emy opisa za pomoc modelu matematycznego. Otrzymujemy wówczas model teoretyczny na podstawie dost pnej informacji. W wielu przypadkach do otrzymania modelu teoretycznego potrzebna jest peªna znajomo± zjawiska. Je»eli owej wiedzy w postaci publikacji (ekspertyz, opisów) nie posiadamy, to musimy szuka modelu empirycznego. W szczególno±ci mo-»emy korzysta z niekompletnej wiedzy teoretycznej, tym samym okre±lamy pewn klas mo»liwych modeli, które musz by werykowane. Budowa i dobór odpowiedniego modelu przebiega w sposób nast puj cy: 1. na podstawie dost pnej informacji dobieramy klas modeli; 2. wybieramy model próbny; 3. dokonujemy identykacji modelu próbnego; 4. sprawdzamy za pomoc narz dzi statystyki matematycznej czy wybrany model jest poprawny (czy jest dobrze dopasowany do danych empirycznych). Je»eli jest dobrze dopasowany to mo»emy go wykorzysta do prognoz. W przeciwnym razie, je»eli zostanie wykryta niezgodno±, to procedur nale»y wykona od nowa (identykacja, estymacja, sprawdzenie); 5. ostatecznym sprawdzianem jest werykacja empiryczna. 1.3 Matematyczne modele dynamiczne Do opisu przebiegu zjawiskdo± cz sto wykorzystujemy modele matematyczne. Poni»ej przedstawione zostan modele deterministyczne i stochastyczne. Model, który pozwala dokªadnie obliczy warto± zmiennej zale»nej w dowolnym momencie, nazywami modelem deterministycznym. Na

17 16 1. Matematyczne metody prognozowania wi kszo± zjawisk (nansowych, ekonomicznych, socjologicznych itd) mog wpªywa nieznane czynniki natury losowej. Owe czynniki powoduj niemo»no± znalezienia modelu deterministycznego, umo»liwiaj cego dokªadne wyznaczenie przyszªego przebiegu zjawiska. Niemniej jednak mo»na zbudowa model, który pozwala wyznaczy przyszªe warto±ci z prawdopodobie«stwami. Takie modele nazywamy modelami stochastycznymi (probabilistycznymi). Przykªady poni»ej pokazuj zachowania systemów opisanych za pomoc modelu deterministycznego i modelu stochastycznego. Przykªad 1.1 (Model warto±ci kapitaªu) Niech x t oznacza wielko± kapitaªu w chwili t N 0. Je»eli r>0 jest stop zwrotu pozbawion ryzyka, to zale»no±ci wielko±ci kapitaªu od stopy zwrotu mo»emy przedstawi wzorem lub x t+1 x t x t = r x t+1 =(1+r) x t. Wtakim razie wielko± kapitaªu którym dysponuje inwestor w chwili t N 0, je»eli w chwili t =0posiadaª x 0 = M, jest dana wzorem (ci g geometryczny) x t = M (1 + r) t. Rysunek 1.1 przedstawia warto± kapitaªu dla momentów t =0, 1, 2,...,20 w przypadku, gdy warto± pocz tkowa M = 1000 oraz stopa zwrotu jest staªa i wynosi 8%. W modelach stochastycznych, w odró»nieniu od modeli deterministycznych, przyszªe warto±ci szeregu czasowego mo»emy oszacowa z pewnym bª dem, natomiast nie potramy okre±li ich dokªadnie. Przykªad 1.2 (Model autoregresji rz du k) Niech {x t } t k b dzie ci - giem postaci x t = λ 0 + λ 1 x t λ k x t k + ε t z warunkiem pocz tkowym x 0,..., x k 1, gdzie λ 0,..., λ k s parametrami modelu, natomiast {ε t } t k oznacza gaussowski biaªy szum ci g niezale»nych

18 1.3. Matematyczne modele dynamiczne 17 Rysunek 1.1: Wielko± kapitaªu w poszczególnych latach. zmiennych losowych o rozkªadzie normalnym N ( 0,σ 2). Dla warunku pocz tkowego x 0 =1, x 1 =0.5 rysunek 1.2 przedstawia mo»liwe trajektorie modelu autoregresji rz du 2 postaci x t = x t x t 2 + ε t, gdzie {ε t } t T jest ci giem niezale»nych zmiennych losowych o rozkªadzie normalnym N (0, 4), natomiast T = {2,..., 20}. Przykªad 1.3 Niech {ε k } k N b dzie ci giem niezale»nych zmiennych losowych o rozkªadzie normalnym N(m, σ 2 ) oraz zmienna losowa X 0 ma rozkªad normalny N(m 0,q0 2). Zakªadamy,»e zmienne X 0 i {ε k } k N s stochastycznie niezale»ne oraz zmienne losowe X k,k N s dane wzorem X k = X k 1 + ε k.

19 18 1. Matematyczne metody prognozowania Rysunek 1.2: Symulacje modelu AR(2). Wyka»emy,»e dla dowolnego k 0 zmienna losowa X k ma rozkªad normalny N(m k,qk 2 ) (dla k =0wynika to z denicji). Funkcja g sto±ci dla zmiennej losowej X k+1 jest dana wzorem f k+1 (z) = f k (x)f ε (z x)dx, gdzie f k jest funkcj g sto±ci zmiennych ε k. Zatem f k+1 (z) = = 1 2πqk exp Poniewa» (x m k ) 2 (z x m)2 + 2σ 2 2q 2 k ( (x m k) 2 2q 2 k 1 exp ( (x m k) 2 2πσq k 2qk 2 ) ) 1 (z x m)2 exp ( 2πσ 2σ 2 dx ) (z x m)2 2σ 2 dx. = q2 k + ( σ2 mk 2qk 2σ2 x2 2 2qk 2 + z m ) 2σ 2 x+ m2 k 2q 2 k + (z m)2 2σ 2 (1.2)

20 1.3. Matematyczne modele dynamiczne 19 oraz e Ax2 ±2Bx C dx = π AC B 2 e A, (1.3) A to korzystaj c ze wzorów (1.2) i (1.3) otrzymujemy f k+1 (z) = 1 exp 2π σ 2 + qk 2 ( (z (m k + m)) 2 2 ( q 2 k + σ2) ). Funkcja g sto±ci zmiennej losowej X k+1 dla k 0 jest dana wzorem ( ) 1 f k+1 (z) = exp (z m k+1) 2 2πqk+1 2qk+1 2, gdzie m k+1 = m k + m = m 0 +(k +1)m, q 2 k+1 = q 2 k + σ2 = q 2 0 +(k +1)σ 2. Zatem dla dowolnego k 0 zmienna losowa X k+1 ma rozkªad normalny N(m 0 + km, q0 2 + kσ2 ). Dla X 0 =0oraz m =0powy»szy przykªad jest znany w literaturze jako model bª dzenia losowego (patrz np. [1], [6], [51], [52], [57]). Przykªad 1.4 Niech {X k } k N0 b dzie ci giem niezale»nych zmiennych losowych o rozkªadzie normalnym N(m, σ 2 ), zmienna losowa τ ma rozkªad Poissone'a z parametrem intensywno±ci λ>0 oraz zmienna losowa X τ jest dana wzorem τ X τ = X k. k=0 Poni»ej wyznaczymy warto± oczekiwan i wariancj zmiennej losowej X τ. Funkcja charakterystyczna zmiennej losowej X τ jest dana wzorem ϕ Xτ (s) =Ee isxτ, s R. Z przykªadu 1.3 wynika,»e dla ustalonego k 0 zmienna losowa k X t ma t=0 rozkªad normalny N(km, kσ 2 ). Ze wzoru na prawdopodobie«stwo caªkowite

21 20 1. Matematyczne metody prognozowania otrzymujemy ϕ Xτ (s) = = = ( E exp is k=0 k=0 k=0 λ λk e e λ k! t=0 ( λe ism σ2 s 2 2 ) k X t P (τ = k) 1 2πkσ e isx e (x km)2 2kσ 2 dx = k! ) k e k=0 λ λk k! ( ( )) =exp λ e ism σ2 s Korzystaj c z wªasno±ci funkcji charakterystycznej otrzymujemy kσ 2 s 2 eiskm 2 EX τ = EX 2 τ = s ϕ X τ (s) s=0 i 2 ϕ s 2 Xτ (s) = λm, s=0 i 2 = λ ( m 2 + σ 2) + λ 2 m 2. Ostatecznie warto± oczekiwana zmiennej losowej X τ wynosi λm, natomiast jej wariancja jest równa Var(X τ )=EX 2 τ (EX τ ) 2 = λ ( m 2 + σ 2). Modele stochastyczne maj do± szerokie zastosowanie w praktyce. Opisuj c zachowanie obiektów (systemów technicznych, ekonomicznych, socjologicznych itp.) za pomoc zmiennych losowych mo»emy przewidywa (szacowa z prawdopodobie«stwem) warto±ci tych systemów b d¹ warto±ci zale»ne od tych systemów. Proste przykªady poni»ej pokazuj zastosowanie modeli stochastycznych w ekonomii. Przykªad 1.5 Przedsi biorstwo produkuje towar oraz sprzedaje po ustalonej cenie p > 0. Popyt na towar jest podporz dkowany rozkªadowi lognormalnemu LN ( m, σ 2), gdzie m > 0, 0 < σ <. Funkcja kosztów jest liniowa K (y) =k 0 + k 1 y, gdzie y oznacza wielko± produkcji. Poni»ej oszacujemy oczekiwany popyt na dobro oraz oczekiwany zysk ze sprzeda»y przy zaªo»eniu,»e wielko± produkcji jest równa wielko±ci sprzeda»y.

22 1.3. Matematyczne modele dynamiczne 21 Niech zmienna losowa ξ reprezentuje popyt na dobro. Funkcja g sto±ci rozkªadu lognormalnego LN(m, σ 2 ) jest dana wzorem ( ) 1 γ(x, m, σ) = exp (ln x m)2, x > 0, xσ (2π) 2σ 2 0, x 0. Oczekiwany popyt wynosi Eξ = 0 ( x xσ 2π exp ) (ln x m)2 2σ 2 dx. Aby wyznaczy powy»sz caªk dokonujemy zamiany zmiennych y =lnx Zatem oczekiwany popyt wynosi = Eξ = x = e y dx = e y dy ( 1 σ 2π exp y. ) (y m)2 2σ 2 dy ( 1 σ 2π exp y2 2 ( m + σ 2) y + ( m + σ 2) 2 ( m + σ 2 ) ) 2 + m 2 2σ 2 dy = e m 2 (m+σ 2 ) 2 2σ 2 ( 1 σ 2π exp ( ( y m + σ 2 )) ) 2 2σ 2 σ2 m+ dy = e 2. Wobec powy»szego oczekiwany zysk (przychód minus koszty) ze sprzeda»y jest równy σ2 m+ E (pξ k 0 k 1 ξ)=(p k 1 ) Eξ k 0 =(p k 1 ) e 2 k0. Przykªad 1.6 Przedsi biorstwo produkuje dobra niesubstytucyjne, które s sprzedawane po cenach p 1 > 0 i p 2 > 0 odpowiednio. Popyty na dobra s stochastycznie niezale»ne oraz podporz dkowane rozkªadowi Poissone'a z parametrami λ 1 > 0 i λ 2 > 0. Funkcje kosztów s liniowe

23 22 1. Matematyczne metody prognozowania K (ξ i ) = k 0i + k 1i ξ i. Poni»ej oszacujemy oczekiwane popyty oraz oczekiwany ª czny zysk ze sprzeda»y. ( ) ξ1 Niech ξ = reprezentuje wektor popytów na dobra. Funkcja g sto±ci ξ 2 zmiennej losowej X dla rozkªadu Poissone'a z parametrem λ ma posta λ λn P (X = n) =e n! dla n N 0. Oczekiwany popyt dla dobra pierwszego: Eξ 1 = ne λ 1 λn 1 n! = e λ λ n 1 1 (n 1)! = λ 1 e λ 1 λn 1 n! = λ 1. n=0 n=1 Analogicznie Eξ 2 = λ 2. Ostatecznie oczekiwany popyt na dobra wynosi Eξ = ( Eξ1 Eξ 2 ) = natomiast oczekiwany ª czny zysk jest równy ( λ1 λ 2 ), n=0 E (p 1 ξ 1 K (ξ 1 )+p 2 ξ 2 K (ξ 2 )) = p 1 Eξ 1 (k 01 + k 11 Eξ 1 )+p 2 Eξ 2 (k 02 + k 12 Eξ 2 )=(p 1 k 11 ) λ 1 +(p 2 k 12 ) λ 2 k 01 k 02.

24 Rozdziaª 2 Identykacja nielosowych skªadowych 2.1 Metody identykacji nielosowych skªadowych Identykacja szeregów czasowych {x t } t N postaci x t = f (t)+ε t dla t N (2.1) polega na wyznaczeniu cz ±ci deterministycznej f (t) tego szeregu oraz okre- ±leniu zachowania skªadnika reszt ε t dla t N. Poni»ej przedstawione zostan sposoby identykacji i aproksymacji cz ±ci deterministyczej szeregu (2.1). Metody wyznaczenia nielosowych skªadowych w badanym szeregu {x t } t N mo»emy podzieli na analityczne i algorytmiczne. Metody analityczne wykorzystujemy w przypadku gdy znana jest posta funkcji nielosowej f (t). Je»eli stwierdzili±my,»e w analizowanym szeregu czasowym {x t } t N wyst puj nielosowe skªadowe (trendu f tr (t), sezonowa ϕ (t), cykliczna ψ (t)), to cz ± deterministyczn szeregu modelujemy za pomoc równania f (t) def = f (t, Θ) def = λ 1 f tr (t, Θ 1 )+λ 2 ϕ(t, Θ 2 )+λ 3 ψ(t, Θ 3 ) def = λ 1 f tr (t)+λ 2 ϕ(t)+λ 3 ψ(t), (2.2) 23

25 24 2. Identykacja nielosowych skªadowych gdzie Θ def = (Θ 1, Θ 2, Θ 3 ) R k = R k 1 R k 2 R k 3 jest wektorem nieznanych parametrów. Zadanie polega na wyznaczeniu estymatorów parametrów Θ funkcji f (t, Θ). Do predykcji cz ±ci deterministycznej szeregu {x t } ( ) t N wybieramy warto±ci funkcji f t, ˆΘ, t N (tzn. nieznane parametry Θ zast pujemy estymatorami ˆΘ). Metody algorytmiczne wykorzystujemy wtedy, gdy posta funkcji nielosowej f (t) nie jest znana. W takim przypadku zadanie polega na konstrukcji algorytmu oceny ˆf (t) dla nieznanej funkcji f (t) w dowolnej chwili czasowej t. Metody algorytmiczne s bardziej elastyczne. Niektóre z tych metod zostan omówione poni»ej. 2.2 Metody analityczne Do identykacji parametrów deterministycznej cz ±ci szeregu czasowego {x t } t N najcz ±ciej wykorzystuje si klasyczn metod najmniejszych kwadratów (MNK) oraz metod najwi kszej wiarygodno±ci (MNW) (patrz [1], [13], [28], [43], [58], [59], [61]). W przypadku stosowania metody najmniejszych kwadratów szukamy takich estymatorów parametrów strukturalnych (warto±ci ocen nieznanych parametrów) modelu aby suma kwadratów ró»nic pomi dzy warto±ciami empirycznymi a teoretycznymi szeregu czasowego byªa jak najmniejsza. W przypadku stosowania metody najwi kszej wiarygodno±ci szukamy takich ocen parametrów modelu aby iloczyn prawdopodobie«stw realizacji elementów szeregu czasowego (w tym przypadku elementy szeregu czasowego wyst puj jako zmienne losowe) byª jak najwi kszy Klasyczna metoda najmniejszych kwadratów Rozwa»my model postaci x t = f (t, Θ) + ε t dla t N, (2.3) gdzie {ε t } 1 t N jest ci giem niezale»nych zmiennych losowych o rozkªadzie normalnym N ( 0,σ 2). Na podstawie realizacji szeregu {x t } 1 t N nale»y

26 2.2. Metody analityczne 25 oszacowa nieznane parametry Θ modelu (2.3). Kryterium, które zaproponowaª Gauss do pomiaru bª du estymacji jest kwadrat dªugo±ci ε 2 = ε, ε, gdzie ε =(ε 1,..., ε N ) T jest wektorem odchyle«warto±ci empirycznych zmiennej zale»nej od warto±ci teoretycznych (ε t = x t f (t, Θ) dla t =1, 2,..., N). Zadanie polega na wyznaczeniu takich warto±ci Θ R k dla których ε, ε min. Denicja 2.1 Klasyczna metoda najmniejszych kwadratów (MNK) polega na wyznaczeniu wektora parametrów ˆΘ R k speªniaj cego warunek N t=1 ( ( ˆΘ)) 2 x t f t, =min Θ R k N (x t f (t, Θ)) 2. (2.4) Estymator ˆΘ R k uzyskany za pomoc MNK speªnia warunek Θ R k xt f t=1 ( t, ˆΘ) 2 xt f (t, Θ) 2. W modelu (2.3) jako zmienna niezale»na wyst puje tylko zmienna czasowa t. Oceny parametrów ˆΘ konstruowane s na podstawie obserwacji szeregu czasowego {x t } 1 t N. Opisuj c zachowanie szeregu czasowego {x t } t N za pomoc modeli (2.3) mo»na dobiera ró»norodne postaci cz ±ci deterministycznej f (t, Θ) (patrz [1], [13], [24], [43], [58], [61]) Identykacja trendu w szeregu czasowym Je»eli w szeregu czasowym wyst puje tylko trend liniowy, to taki model mo»emy przedstawi w postaci x t = α 0 + α 1 t + ε t. (2.5) Warto±ci ocen α 0, α 1 parametrów strukturalnych α 0,α 1 na podstawie obserwacji szeregu czasowego {x t } 1 t N postaci (2.5) otrzymujemy rozwi zuj c zadanie programowania kwadratowego min α 0,α 1 R N (x t α 0 α 1 t) 2. (2.6) t=1

27 26 2. Identykacja nielosowych skªadowych Ró»niczkuj c funkcj celu F (α 0,α 1 )= N (x t α 0 α 1 t) 2 wzgl dem zmiennych α 0,α 1, otrzymujemy t=1 α 0 F (α 0,α 1 )= 2 N (x t α 0 α 1 t), t=1 α 0 F (α 0,α 1 )= N t(x t α 0 α 1 t). t=1 Poniewa» F (α 0,α 1 ) jest funkcj wypukª, to rozwi zanie ukªadu równa«n N x t Nα 0 α 1 t =0, t=1 t=1 N N N tx t α 0 t α 1 t 2 =0 t=1 t=1 t=1 jest jednocze±nie rozwi zaniem problemu (2.6). Mno» c obustronnie pierwsze równanie przez N t, a drugie przez N oraz dodaj c je stronami otrzy- t=1 mujemy N N tx N N t x t t t=1 t=1 t=1 α 1 = ( ) 2, N N N t 2 t t=1 t=1 ( N ) N α 0 = 1 N x t α 1 t. t=1 t=1 Oznaczaj c przez x ±redni arytmetyczn realizacji szeregu czasowego {x t } 1 t N oraz przez t ±redni arytmetyczn zmiennej czasowej t otrzymujemy N tx t Nxt t=1 α 1 =, N t 2 Nt 2 (2.7) t=1 α 0 = x α 1 t. N Korzystaj c ze wzorów t = N(N+1) N 2 oraz t 2 = N(N+1)(2N+1) 6 warunek t=1 t=1 (2.7) mo»emy przedstawi w postaci α 1 = 12 N tx t N(N+1) x 2 t=1, N(N 2 1) α 0 = x α 1 N+1 2.

28 2.2. Metody analityczne Identykacja funkcji wielomianowej w szeregu czasowym W przypadku, gdy funkcja nielosowa jest wielomianem stopnia p x t = α 0 + α 1 t α p t p + ε t (2.8) oraz liczba obserwacji N zdecydowanie przewy»sza stopie«wielomianu p, to ukªad równa«obserwacyjnych mo»emy przedstawi w postaci x 1 = α 0 + α α p 1 p + ε 1,... x N = α 0 + α 1 N α p N p + ε N, który sprowadzamy do postaci macierzowej x = N... N p x N α 0 α 1... α p + ε 1... ε N. (2.9) Przyjmuj c X = p p N N 2... N p, Y = x 1 x 2 x 3... x N, Θ= α 0 α 1... α p ukªad równa«obserwacyjnych w postaci macierzowej (2.9) mo»emy przedstawi w postaci Y = XΘ+ε. (2.10) Twierdzenie poni»ej przedstawia sposób szacowania parametrów strukturalnych dla modelu (2.8). Twierdzenie 2.1 Je»eli det ( X T X ) 0, to estymator wektora parametrów strukturalnych modelu (2.8) jest dany wzorem ˆΘ = ( X T X ) 1 X T Y. (2.11)

29 28 2. Identykacja nielosowych skªadowych Dowód. Zdeniujmy funkcj celu f(θ) = Y XΘ,Y XΘ, Θ R p+1. Poniwa» f ( ) jest funkcj wypukª, to rozwi zanie ukªadu równa«θ f(θ) = 0 (gdzie Θ f(θ) oznacza gradient f w punkcie Θ, 0 R p+1 wektor zerowy) jest jednocze±nie rozwi zaniem problemu Mamy min f(θ). Θ Rp+1 Θ f(θ) = 2X T (XΘ Y ), wi c ˆΘ = ( X T X ) 1 X T Y jest jedynym rozwi zaniem ukªadu równa«θ f(θ) = 0. Podstawiaj c równanie obserwacyjne (2.10) do (2.11), otrzymujemy ˆΘ =Θ+ ( X T X ) 1 X T ε. (2.12) Wobec powy»szego warto± oczekiwana wektora nieznanych parametrów Θ jest równa EΘ = ˆΘ ( X T X ) 1 X T Eε = ˆΘ, co oznacza,»e ˆΘ jest nieobci»onym estymatorem wektora nieznanych parametrów Θ. Macierz kowariancji wektora nieznanych parametrów Θ jest równa cov (Θ, Θ) = E (Θ EΘ) (Θ EΘ) T ( (X = E T X ) 1 X T εε T X ( X T X ) ) 1 = ( X T X ) 1 X T E ( εε T ) X ( X T X ) 1. Poniewa» {ε t } 1 t N jest ci giem niezale»nych zmiennych losowych o rozkªadzie normalnym N ( 0,σ 2),to E ( εε T ) = σ 2 I, gdzie I oznacza macierz jednostkow. Ostatecznie otrzymujemy cov (Θ, Θ) = σ 2 ( X T X ) 1. (2.13)

30 2.2. Metody analityczne 29 Wniosek 2.1 W przypadku, gdy funkcja nielosowa f (t, Θ) jest funkcj nieliniow ze wzgl du na parametry Θ, to mo»emy: 1. dokona linearyzacji, a nast pnie oszacowa nieznane parametry Θ za pomoc MNK, 2. funkcj nielosow f (t, Θ) przybli»y wielomianem stopnia p, 3. oszacowa nieznane parametry Θ rozwi zuj c zadanie (2.4), wtedy warunek konieczny na istnienie ekstremum ma posta N (x t f (t, Θ)) Θ f (t, Θ) = 0. (2.14) t=1 W przypadku, gdy skªadniki losowe {ε t } 1 t N s skorelowane, to do oszacowania parametrów Θ musimy zastosowa uogólnion MNK. Wi cej na temat identykacji zale»no±ci wykªadniczych, pot gowych, logarytmicznych, hiperbolicznych mo»na znale¹ np. w [43], [61]. Uwzgl dnienie w modelu (2.3) zb dnych czynników (parametrów, predyktorów) prowadzi do wzrostu wariancji prognoz (nieefektywno±ci estymatorów), natomiast brak analizy niezb dnych cech prowadzi do obci»ono- ±ci estymatorów. Optymalny zbiór predyktorów dla modeli liniowych wyznaczamy za pomoc kryterium informacyjnego. W tym celu korzystamy z klasycznych kryteriów znanych w literaturze: kryterium Akaike (Akaike Information Criterion-AIC) (patrz np. [2], [4], [5], [13], [57], [59]) ( ) 1 N AIC = N ln ε 2 t +2k, N k t=1 kryterium Schwarza SIC (patrz np. [48], [57], [59]) ( ) 1 N SIC = N ln ε 2 t + k ln N, N k t=1 kryterium HannanaQuinna (patrz np. [26]) ( ) 1 N HQC = N ln ε 2 t +2kln (ln N), N t=1 gdzie k oznacza liczb nieznanych parametrów w modelu.

31 30 2. Identykacja nielosowych skªadowych Metoda najwi kszej wiarygodno±ci Poni»ej przedstawiona zostanie kolejna metoda estymacji punktowej. Metoda najwi kszej wiarygodno±ci (MNW) zostaªa zaproponowana przez R. Fishera oraz polega na analizie ª cznego rozkªadu prawdopodobie«stwa próbki {x t } 1 t N (patrz [1], [13], [28], [31], [43], [51], [58], [59]). Rozwa»my model postaci x t = f (t, Θ,ε t ) dla t N, (2.15) gdzie {ε t } t N jest ci giem niezale»nych zmiennych losowych o rozkªadzie p (,λ), natomiast λ R n wektorem nieznanych parametrów rozkªadu ci gu zmiennych losowych {ε t } t N. Sposób identykacji parametrów Θ R k oraz λ R n za pomoc metody najwi kszej wiarygodno±ci podaje twierdzenie poni»ej. Twierdzenie 2.2 Je»eli {x t } 1 t N jest realizacj szeregu postaci (2.15), funkcja f t,θ (ε) def = f (t, Θ,ε) jest funkcj ró»nowarto±ciow, f t,θ : R R oraz (Θ,λ) R k n p ( f 1 (x t,t,θ),λ ) > 0, 1 t N gdzief 1 (x, t, Θ) = f 1 t,θ (x) i k + n<n, to estymatory nieznanych parametrów Θ R k, λ R n uzyskane za pomoc MNW speªniaj warunek N t=1 N t=1 Θ p(f 1 (x t,t,θ),λ) p(f 1 (x t,t,θ),λ) =0, λ p(f 1 (x t,t,θ),λ) p(f 1 (x t,t,θ),λ) =0. (2.16) Dowód. Niech ε = f 1 (x, t, Θ). Do oszacowania parametrów Θ,λ na podstawie obserwacji {x t } 1 t N korzystaj c z MNW nale»y najpierw skonstruowa funkcj wiarygodno±ci L (x 1,..., x N ;Θ,λ)= N p(f 1 (x t,t,θ),λ). (2.17) t=1

32 2.2. Metody analityczne 31 Stosuj c MNW szukamy takich ocen nieznanych parametrów Θ i λ, dla których funkcja wiarygodno±ci osi ga warto± najwi ksz. Zatem zadanie ma posta max (Θ,λ) R k nl (x 1,..., x N ;Θ,λ). Powy»sze zadanie mo»emy sprowadzi do postaci równowa»nej gdzie max (Θ,λ) R k nl (x 1,..., x N ;Θ,λ), (2.18) l (x 1,..., x N ;Θ,λ) = ln(l (x 1,..., x N ;Θ,λ)) N = ln p ( f 1 (x t,t,θ),λ ). (2.19) t=1 Rozwi zuj ukªad równa«{ Θ l (x 1,..., x N ;Θ,λ)=0 λ l (x 1,..., x N ;Θ,λ)=0 otrzymujemy punkt, który speªnia warunek konieczny. Gradienty z funkcji wiarygodno±ci Θ l i λ l dane s wzorami Θ l (x 1,..., x N ;Θ,λ)= N t=1 λ l (x 1,..., x N ;Θ,λ)= N t=1 Θ p(f 1 (x t,t,θ),λ) p(f 1 (x t,t,θ),λ), λ p(f 1 (x t,t,θ),λ) p(f 1 (x t,t,θ),λ). Przykªad 2.1 Niech szereg czasowy {x t } t N b dzie dany wzorem (2.3), gdzie {ε t } t N jest ci giem niezale»nych zmiennych losowych o rozkªadzie normalnym N ( 0,σ 2). Na podstawie obserwacji {x t } 1 t N korzystaj c z MNW zidentykujemy nieznane parametry strukturalne Θ R k oraz odchylenie standardowe σ dla niezale»nych zmiennych losowych {ε t } 1 t N. Zgodnie z równaniem (2.3) przyjmujemy x t = f t,θ (ε) =f (t, Θ) + ε,

33 32 2. Identykacja nielosowych skªadowych zatem f 1 (x, t, Θ) = f 1 t,θ (x) =x f (t, Θ). Fukcja wiarygodno±ci jest dana wzorem gdzie L (x 1,..., x n ;Θ,σ)= N γ(x t f (t, Θ),σ) t=1 ( 1 = exp 1 σ N (2π) N 2 2σ 2 ) N (x t f (t, Θ)) 2, t=1 γ(x, σ) = 1 2π e x2 2σ 2 oznacza funkcj g sto±ci zmiennej losowej o rozkªadzie N ( 0,σ 2). Rozwi - zuj c zadanie postaci lub zadanie równowa»ne max Θ,σ L (x 1,..., x N ;Θ,σ) max Θ,σ l (x 1,...x N ;Θ,σ), gdzie l (x 1,..., x N ;Θ,σ)=ln(L (x 1,..., x n ; m, σ)) = N ln (σ) N 2 ln (2π) 1 2σ 2 N (x t f (t, Θ)) 2. t=1 otrzymujemy oceny parametrów Θ i σ.gradienty Θ l oraz σ l dla logarytmu z funkcji wiarygodno±ci wynosz odpowiednio Θ l (x 1,..., x N ; m, σ) = 1 N σ 2 (x i f (i, Θ)) Θ f (i, Θ), i=1 σ l (x 1,..., x n ; m, σ) = N 1 σ + 1 σ 3 N (x i f (i, Θ)) 2. i=1 Przyrównuj c je do zera otrzymujemy warunek konieczny na istnienie ekstremum N (x t f (t, Θ)) Θ f (t, Θ) = 0, t=1 N 1 σ + 1 σ 3 N (x t f (t, Θ)) 2 =0. t=1 (2.20)

34 2.2. Metody analityczne 33 Wniosek 2.2 Porównuj c (2.14) oraz (2.20) widzimy,»e estymatory nieznanych parametrów Θ dla modelu (2.3) uzyskane za pomoc MNK i MNW s identyczne. Wniosek 2.3 Z ukªadu równa«(2.20) wynika,»e najlepszym estymatorem odchylenia standardowego jest ˆσ = 1 N N t=1 ( ( ˆΘ)) 2, x t f t, gdzie ˆΘ jest estymatorem nieznanych parametrów w modelu (2.3). Przykªad 2.2 Rozwa»my model x t = t a ε t dla t =1, 2,..., N, (2.21) gdzie {ε t } 1 t N jest ci giem niezale»nych zmiennych losowych o rozkªadzie logarytmiczno-normalnym LN ( m, σ 2). Funkcja wiarygodno±ci ma posta ( N ) 1 ( ) 1 t a L (x 1,..., x N ; a, m, σ) = exp 1 n ( σ n (2π) n 2 x t=1 t 2σ 2 ln x ) t 2 t a m, i=1 natomiast l (x 1,..., x N ; a, m, σ) = ln(l (x 1,..., x N ; a, m, σ)) = N ln (σ) N N 2 ln (2π) (a ln t ln x t ) Rozwi zuj c zadanie 1 2σ 2 t=1 N (ln x t a ln t m) 2. (2.22) t=1 max l (x 1,..., x N ; a, m, σ) a,m,σ otrzymujemy estymatory nieznanych parametrów a, m, σ. Warunek konieczny istnienia ektremum funkcji l (x 1,..., x N ; a, m, σ) ze wzgl du na a, m, σ a N N ln t + 1 (ln x σ t=1 2 t a ln t m)lnt =0, t=1 1 σ 2 N (ln x t a ln t m) =0, N (ln x t a ln t m) 2 =0. t=1 N σ + 1 σ 3 t=1 (2.23)

35 34 2. Identykacja nielosowych skªadowych Z równania trzeciego powy»szego ukªadu równa«otrzymujemy σ 2 = 1 N N (ln x t a ln t m) 2. (2.24) t=1 Niech g = 1 N N ln x t, t=1 h = 1 N N ln t, s = g h. Z równania drugiego ukªadu (2.23)wyznaczamy parametr a jako t=1 a = g m h. (2.25) Podstawiaj c (2.24)oraz (2.25)do równania pierwszego ukªadu (2.23)otrzymujemy (m g) t=1 N t=1 ( ( ln x t s ln t m 1 ln t )) 2 h N N + ln x t ln t a (ln t) 2 mnh =0. t=1 Wyznaczaj c pierwiastki wielomianu stopnia trzeciego otrzymujemy warto- ±ci m speªniaj ce warunek konieczny ekstremum funkcji (2.22), nast pnie z (2.24)oraz (2.25)wyznaczamy warto±ci a i σ odpowiednio. Otrzymane wyniki speªniaj warunek konieczny istnienia ekstremum funkcji l (x 1,..., x N ; a, m, σ) postaci (2.22). 2.3 Metody algorytmiczne Metody algorytmiczne zazwyczaj stosujemy w przypadku, gdy nie znamy postaci cz ±ci deterministycznej. Przyjmujemy»e szereg czasowy {x t } t N jest dany wzorem x t = f (t)+ε t, (2.26) gdzie {ε t } t N jest ci giem niezale»nych zmiennych losowych o rozkªadzie normalnym N ( 0,σ 2).

36 2.3. Metody algorytmiczne 35 Metody algorytmiczne polegaj na konstrukcji estymatora cz ±ci deterministycznej f (t) poprzez zmniejszenie wpªywu losowych uktuacji w analizowanym szeregu czasowym {x t } t N. Upodstaw tej metody le»y prosta obserwacja: je»eli wariancja niezale»nych zmiennych losowych {ε t } N wynosi σ 2, to wariancja ±redniej elementów x t m,x t m+1,..., x t dla t>m jest równa ( ) ( ) xt x t m xt x t m E (x t x t m ) 2 Var = E m +1 m +1 = 1 m +1 E (ε t + ε t ε t m ) 2 = σ2 m +1 co powoduje zmniejszenie rozrzutu (wariancji) oraz wygªadzanie trajektorii. Konstrukcja estymatora cz ±ci deterministycznej f (t) elementów szeregu czasowego postaci (2.26) na podstawie realizacji x t m,x t m+1,..., x t polega na wyznaczeniu wielko±ci ˆf (t) = m w k x t k dla t>m, (2.27) k=0 gdzie wagi w 0,w 1,..., w m speªniaj warunek m w k = 1, w j 0 dla j =0, 1,...,m. Powy»sz metod nazywamy ruchom ±redni (patrz np. [1], [33], [59], [61]). Wagi w 0,w 1,..., w m szacujemy za pomoc metody najmniejszych kwadratów. k=0 Uwaga 2.1 Okre±laj c nielosow skªadow f (t) w szeregu {x t } t N przy pomocy metody ruchomej ±redniej otrzymujemy estymator ˆf (t), który w przybli»eniu opisuje zachowanie tej skªadowej w modelu (2.26). Poni»ej przedstawimy wpªyw jaki wywiera metoda ruchomej ±redniej na skªadniki losowe w szeregu czasowym {x t } t N. Poniewa» zmienne losowe ε t w równaniu (2.26) s nieskorelowane (niezale»ne), to Eε t = 0, { σ 2, Eε t ε t+τ = 0, dla τ =0, dla τ 0.

37 36 2. Identykacja nielosowych skªadowych Podczas identykacji funkcji nielosowej f (t) za pomoc wzoru (2.27) otrzymamy estymator ˆf (t), który ma skªadnik losowy postaci ε t = m w k ε t k dla t>m. (2.28) k=0 Šatwo wida,»e warto± oczekiwana zaburzenia estymatora jest równa zero (E ε t = 0, t > m). Kowariancja estymatora ˆf (t) jest identyczna z kowariancj skªadnika losowego postaci (2.28). Poniewa» zmienne losowe ε t,t Ns nieskorelowane, to γ ε (τ) = σ 2 m w k w k+τ, dla 0 τ m, cov ( ε t, ε t+τ )= k=τ (2.29) 0, dla τ>m. Wariancja jest równa D 2 ε t = γ ε (0) = σ 2 m k=0 w 2 k. (2.30) Funkcja autokorelacji dla losowej skªadowej ε t estymatora ˆf (t) wynosi 1, m w k w k τ τ =0 r ε (τ) = k=τ, dla 0 <τ m, m wk 2 k=0 0, dla τ>m. (2.31) Otrzymany szereg zaburze«{ ε t } t>m ma niezerow funkcj autokowariancji dla τ =0, 1,...,m, natomiast dla τ > m warto±ci funkcji autokorelacji wynosz zero. Równie» wariancja ε t jest mniejsza od σ 2, co powoduje redukcj zaburze«estymatora dla funkcji nielosowej f (t) w szeregu postaci { } (2.26). Zatem otrzymany szereg ˆf (t) jest bardziej gªadki ni» szereg t>m wyj±ciowy {x t } t N Ruchoma ±rednia rz du m Estymator ˆf (t),t>mdla cz ±ci deterministycznej szeregu czasowego {x t } t N postaci (2.26) konstrujemy na podstawie obserwacji szeregu

38 2.3. Metody algorytmiczne 37 x t,x t 1,..., x t m (patrz np. [1], [59], [61]). Wagi w 0,w 1,..., w m we wzorze (2.27) dobieramy tak aby wariancja skªadnika losowego ε t, t>m(patrz wzór (2.30)) byªa jak najmniejsza. Nale»y zatem znale¹ takie liczby dla których suma w 0 0,w 1 0,..., w m 0, gdzie m wk 2 k=0 przyjmuje najmniejsz warto±. Przyjmijmy m w k =1 k=0 w k = 1 m +1, 0 k m oraz we¹my dowolne v 0,v 1,..., v m speªniaj ce warunek Mamy oraz = m k=0 m (w k + v k )= k=0 m (w k + v k ) 2 = k=0 1 (m +1) m +1 m v k =0. k=0 m w k + k=0 m v k =1+0=1 k=0 m m wk 2 +2 w k v k + k=0 m v k + k=0 k=0 k=0 m k=0 v 2 k m vk 2 = 1 m m +1 + vk 2 > 1 m +1 gdy istnieje k {0, 1,..., m} takie»e v k 0. St d wynika,»e wektor staªych wag ( ) 1 (w 0,w 1,..., w m )= m +1, 1 m +1,..., 1 R m+1 m +1 jest jedynym wektorem, dla którego wariancja skªadnika losowego ε t, t>mjest najmniejsza. Uwaga 2.2 Warto±ci estymatora ˆf (t),t>mdla cz ±ci deterministycznej szeregu czasowego {x t } t N mo»emy wyznaczy stosuj c klasyczn metod najmniejszych kwadratów. Dla ustalonego m +1 t N rozwi zuj c k=0

39 38 2. Identykacja nielosowych skªadowych zadanie min m (x t k f (t)) 2 (2.32) f(t) R k=0 otrzymujemy,»e najlepszym estymatorem (w sensie ±redniokwadratowym) cz ±ci deterministycznej szeregu (2.26) jest ˆf (t) = 1 m +1 m x t k. (2.33) Wagi we wzorze (2.27) wynosz w 0 = w 1 =... = w m = 1 m+1, natomiast wariancja i kowariancja estymatora (2.27) cz ±ci deterministycznej szeregu (2.26) (wariancja i kowariancja ε t ) wynosz D 2 ε t = σ 2 m γ ε (τ) = a funkcja autokorelacji r ε (τ) = k=0 k=0 1 (m +1) 2 = σ2 m +1, σ 2 m τ+1 (m+1) 2, dla 0 τ m, 0, dla τ>m, { m τ+1 m+1, dla 0 τ m, 0, dla τ>m. Przykªad 2.3 Dla notowa«cen akcji ORBIS SA z okresu 21/10/ /12/ wyznaczymy estymatory cz ±ci deterministycznej szeregu czasowego {x t } 1 t 47 postaci (2.26) jako ruchome ±rednie rz du drugiego i czwartego. Ruchome ±rednie rz du 2 i 4 deniujemy wzorami ˆf 2 (t) = x t + x t 1 + x t 2 dla 3 t 47, 3 ˆf 4 (t) = x t + x t 1 + x t 2 + x t 3 + x t 4 dla 5 t Rysunek (2.1) przedstawia notowania cen akcji ORBIS SA z okresu 21/10/ /12/2014 jako realizacj szeregu czasowego {x t } 1 t 47 (krzywa { ˆf2 (t)} granatowa) oraz ruchome ±rednie 3 t 47 1 Dane pochodz z (krzywa zielona)

40 2.3. Metody algorytmiczne 39 Rysunek 2.1: Realizacje szeregu czasowego {x t } 1 t 47 oraz ruchome ±rednie { { } ˆf2 (t)} i ˆf4 (t) 3 t 47 5 t 47 { ˆf4 (t)} i (krzywa czerwona). Bezpo±rednio z rysunka widzimy,»e 5 t 47 dla ruchomej ±redniej rz du drugiego wahania s zdecydowanie mniejsze ni» dla szeregu czasowego {x t } 1 t 47, natomiast dla ruchomej ±redniej rz du 4 uktuacje s jeszcze mniejsze ni» dla ruchomej ±redniej rz du drugiego Metoda wykªadniczych wag ruchomej ±redniej Estymator cz ±ci deterministzcynej szeregu czasowego {x t } t N postaci (2.26) skonstruowany za pomoc ruchomej ±redniej ma prost konstrukcj, ale posiada równie» wady: realizacje x t,x t 1,..., x t m miaªy jednakowy wpªyw na warto±ci estymatora (maj takie same wagi) oraz podczas konstrukcji estymatora nie uwzgl dniamy caªej historii analizowanego zjawiska (caªego zbioru warto±ci {x 1,x 2,..., x t }). Metoda zaproponowana przez Browna w pracy [10] eliminuje powy»sze wady. W zadaniach, których dokonujemy prognoz za pomoc wygªadzonej funkcji ˆf (t) oraz wykorzystujemy

41 40 2. Identykacja nielosowych skªadowych j do ekstrapolacji przyszªo±ci, wydaje si»e ±wie»ym danympowinni±my przyporz dkowywa wi ksze wagi ni» danymz odlegªej przeszªo±ci. Metod, która przypisuje wi ksze wagi danymhistorycznymz niedalekiej przeszªo±ci oraz uwzgl dnia caª histori zjawiska, nazywamy metod wykªadniczych wag ruchomej ±redniej (metod wygªadzania wykªadniczego, metod Browna) (patrz np. [1], [10], [61]). Estymator ˆf (t),t Ncz ±ci deterministycznej szeregu czasowego postaci (2.26) konstrujemy korzystaj c z MNK, z tym»e kwadratom ró»nic pomi dzy estymatorem ˆf (t) a realizacj x t k dla 0 k t 1 przypisujemy wag η k, gdzie parametr 0 <η<1 oznacza wspóªczynnik "±wie»o±ci danych". Dla ustalonego t N estymator cz ±ci deterministycznej f (t) wyznaczamy rozwi zuj c zadanie postaci min f(t) R k=0 t 1 η k (x t k f (t)) 2. (2.34) Funkcja celu jest trójmianemkwadratowymwzgl demzmiennej f (t) oraz t 1 t 1 η k (x t k f (t)) 2 = η k ( x 2 t k 2x t kf (t)+f 2 (t) ) k=0 k=0 t 1 t 1 = η k x 2 t k 2f (t) t 1 η k x t k + f 2 (t) k=0 t 1 k=0 t 1 = η k x 2 t k 2f (t) k=0 k=0 k=0 η k η k x t k + f 2 (t) 1 ηt 1 η, wi c jako estymator cz ±ci deterministycznej szeregu czasowego {x t } t N przyjmujemy ˆf (t) = 1 η t 1 1 η t η k x t k, t N. (2.35) k=0 Widzimy,»e podczas konstrukcji estymatora ˆf (t),t N uwzgl dniamy realizacj {x 1,x 2,..., x t } oraz warto±ciom x t k, 0 k t 1 przypisujemy 1 η wagi 1 η η k. t Opisany wy»ej estymator ˆf (t),t Nmo»na wyznaczy za pomoc

42 2.3. Metody algorytmiczne 41 wzoru rekurencyjnego. Korzystaj c ze wzoru (2.35) otrzymujemy ˆf (t) = 1 η t 1 1 η t η k x t k = 1 η [ xt 1 η t + ηx t 1 + η 2 x t η t 1 ] x 1 k=0 = 1 η [ xt 1 η t + η ( x t 1 + ηx t η t 2 )] x 1 [ ] = 1 η t 2 1 η t x t + η η k x t 1 k = 1 η [x 1 η t t + η 1 ] ηt 1 ˆf (t 1). 1 η k=0 Wniosek 2.4 Wzór rekurencyjny na wyznaczenie optymalnego estymatora funkcji nielosowej ma posta ˆf (t) = (1 η) x t + η ( 1 η t 1) ˆf (t 1) 1 η t, ˆf (1) = x1. (2.36) We wzorze (2.27) przyjmujemy m = t 1 oraz wagi w k = 1 η 1 η t η k dla k =0, 1,..., t 1. Wariancja losowej skªadowej ε t estymatora ˆf (t) wynosi D 2 ε ( ) 1 η 2 t 1 ( t = σ 2 1 η t η 2k 2 (1 η)2 1 η 2t (1 η) 1+η t ) = σ (1 η t ) 2 = σ2 1 η2 (1 + η)(1 η t ), natomiast kowariancja k=0 ( ) 1 η 2 t 1 τ γ ε (τ) = σ 2 1 η t = σ 2 η τ ( 1 η 1 η t k=0 ) 2 t 1 τ k=0 η k η k+τ = η 2k = σ 2 τ (1 η)2 1 η 2(t τ) η (1 η t ) 2 1 η 2, gdzie 0 τ t 1. Funkcja autokorelacji dla szeregu { ε t } jest równa r ε (τ) = t 1 τ η k η k+τ k=0 t 1 η 2k k=0 = η τ 1 η2(t τ) 1 η 2t, 0 τ t 1. Przykªad 2.4 Dla notowa«cen akcji ORBIS SA z okresu 21/10/ /12/ korzystaj c z metody wykªadniczych wag ruchomej ±redniej dla 2 Dane pochodz z

43 42 2. Identykacja nielosowych skªadowych η 1 =0.2, η 2 =0.5, η 3 =0.7, η 4 =0.9 wyznaczymy estymatory cz ±ci deterministycznej szeregu czasowego (2.26). Rysunek (2.2) przedstawia realizacj szeregu czasowego {x t } 1 t 47 (krzywa granatowa) oraz estymatory funkcji nielosowej f (t) szeregu (2.26) uzyskane za pomoc metody wykªadniczych wag ruchomej ±redniej. Na wykresie krzywa czerwona okre±la estymator cz ±ci deterministycznej dla η 1 =0.2, krzywa zielona dla η 2 =0.5, krzywa niebieska dla η 3 =0.7 oraz krzywa czarna dlaη 4 =0.9. Bezpo±rednio z rysunku widzimy,»e wraz ze wzrostem wspóªczynnika wag "±wie»o±ci danych" 0 <η<1 losowe uktuacje w szeregu czasowym s dokªadniej eliminowane (estymator cz ±ci deterministycznej mniej na±laduje zaburzenia zewn trzne w modelu (2.26)). Natomiast w przypadku, gdy wspóªczynnik "±wie»o±ci danych"maleje, to wtedy estymator cz ±ci deterministycznej dokªadniej na±laduje zachowanie szeregu (2.26) wraz z zaburzeniami zewn trznymi. Rysunek 2.2: Szereg czasowy {x t } 1 t 47 oraz estymatory cz ±ci deterministycznej szeregu czasowego otrzymane za pomoc metody wykªadniczych wag ruchomej ±redniej dla η 1 =0.2, η 2 =0.5, η 3 =0.7, η 4 =0.9.

44 2.3. Metody algorytmiczne Metoda wykªadniczych wag ruchomej ±redniej dla przypadku niesko«czonej przeszªo±ci Je»eli analizowany szereg czasowy{x t } t 1 jest do± dªugi, to bior c caª histori szeregu do identykacji cz ±ci deterministycznej musimy si cofn do± daleko (horyzont przesuni cia w tym przypadku wynosi ). Tak jak poprzednio zakªadamy,»e wi ksz wag informacyjn posiadaj ±wie»e dane ani»eli dane z dalekiej przeszªo±ci. Zatem wi ksze wagi przyporz dkowujemy ±wie»ym warto±ciom szeregu ni» oddalonym. Estymator f (t),t N cz ±ci deterministycznej szeregu czasowego {x t } t 1 postaci (2.26) konstrujemy korzystaj c z MNK. Dla ustalonego t N estymator cz ±ci deterministycznej f (t) wyznaczamy rozwi zuj c zadanie postaci min η k (x t k f (t)) 2, (2.37) f (t) R k=0 gdzie 0 <η<1 oznacza wspóªczynnik "±wie»o±ci danych". Poniewa» η k = 1 1 η, to η k (x t k f (t)) 2 = k=0 k=0 k=0 η k x 2 t k 2f (t) η k x t k + f 2 (t) k=0 1 1 η, wi c jako estymator cz ±ci deterministycznej szeregu czasowego {x t } t N dla przypadku niesko«czonej przeszªo±ci przyjmujemy ˆf (t) =(1 η) η k x t k. (2.38) We wzorze (2.27) przyjmujemy m = oraz wagi w k = (1 η) η k dla k =0, 1,..., natomiast wariancja i kowariancja losowej skªadowej ε t dla τ N 0 s równe: D 2 ε t = σ 2 (1 η) 2 η 2k = σ 2 (1 η) 2 1 (1 η) = σ2 1 η2 (1 + η), k=0 γ ε (τ) = σ 2 (1 η) 2 η k η k+τ = σ 2 η τ (1 η) 2 η 2k = σ 2 τ (1 η) η (1 + η). k=0 k=0 k=0

45 44 2. Identykacja nielosowych skªadowych Funkcja autokorelacji jest dana wzorem r ε (τ) =η τ, τ N 0. Wniosek 2.5 Wzór rekurencyjny na wyznaczenie optymalnego estymatora funkcji nielosowej ma posta ˆf (t) =η ˆf (t 1) + (1 η) x t, ˆf (1) = x 1. (2.39) Wniosek 2.6 Wzór (2.39) mo»emy bezpo±rednio wyznaczy z (2.36), w tym celu wystarczy wyznaczy granic dla t. ( (1 η) x t + η 1 η t 1 ) ˆf (t 1) lim ˆf (t) = lim t t 1 η t 1 = (1 η) x t lim t 1 η t + η ˆf 1 η t 1 (t 1) lim t 1 η t = ˆf (t). Przykªad 2.5 Dla notowa«cen akcji ORBIS SA z okresu 21/10/ /12/ korzystaj c z metod wykªadniczych wag ruchomej ±redniej oraz wykªadniczych wag ruchomej ±redniej dla niesko«czonej przeszªo±ci wyznaczymy estymatory cz ±ci deterministycznej szeregu czasowego (2.26). Parametr "±wie»o±ci danych" η =0.8 Aby skonstruowa estymatory cz ±ci deterministycznej szeregu (2.26) korzystamy z (2.36) oraz (2.39). Rysunek (2.3) przedstawia realizacj szeregu czasowego {x t } 1 t 47 (krzywa granatowa) oraz estymatory funkcji nielosowej { } f (t) szeregu (2.26) uzyskane za pomoc wykªadniczych wag ˆf (t) { } 1 t 47 (krzywa czerwona) oraz dla niesko«czonej przeszªo±ci ˆf (t) (krzywa 1 t 47 niebieska). Bezpo±rednio z rysunka widzimy,»e ró»nice mi dzy estymatorami s wi ksze dla maªych warto±ci t, natomiast wraz ze wzrostem t ró»nice malej. Rysunek (2.4) przedstawia natomiast warto±ci bezwzgl dne ró»nic pomi dzy estymatorami uzyskamymi za pomoc metod wykªadniczych wag ruchomej ±redniej oraz wykªadniczych wag ruchomej ±redniej dla niesko«czonej 3 Dane pochodz z