Zbigiew Tarapaa Symulacyja meoda doboru opymalych paramerów w progosyczych modelach wygładzaia wyładiczego Wydział Cybereyi Wojsowej Aademii Techiczej w Warszawie Sreszczeie W aryule zaprezeowao symulacyją meodę doboru opymalego zesawu paramerów w modelach wygładzaia wyładiczego Browa. Rozparzoo rzy podsawowe modele Browa: prosy, lasyczy oraz zmodyfiowaą wersję lasyczego (zapropoowaą przez Z. Pawłowsiego w [9]). Za podsawę w meodzie symulacyjej posłużyły rzy algorymy sochasyczego poszuiwaia miimum fucji (miimalizacji błędu sadardowego progozy): ajprosszy algorym z losowaiem puów próbych, algorym z wyzaczaiem ieruów poprawy oraz algorym adapacyjy. Dla pierwszego z algorymów podao oszacowaie liczby powórzeń esperymeu symulacyjego, przy órej uzysamy warości paramerów modelu z żądaą doładością, przy zadaym saysyczym poziomie ufości. Przedsawioo porówaie szybości zbieżości algorymów do rozwiązaia opymalego oraz doładość oszacowań orzymywaych z badaych algorymów w zależości od rodzaju modelu wygładzaia, a podsawie daych hisoryczych doyczących warości Warszawsiego Idesu Giełdowego (WIG). Wsęp Jedym z podsawowych problemów doyczących budowy progosyczych modeli wygładzaia wyładiczego jes dobór odpowiedich paramerów w ych modelach, a aby miimalizować błąd progozy (p. sadardowy błąd progozy, średi wadraowy błąd progozy ex pos). W lieraurze przedmiou (p. [], [3], [7], []) mówi się, że ależy je dobrać doświadczalie, p. poprzez przeprowadzeie serii esperymeów ompuerowych polegających a sosowaiu różych ombiacji warości paramerów α [0,], β [0,] (dla modelu Hola) lub α [0,] (dla modelu Browa) przy usaloym rou zmiay warości ych paramerów. Dla przyładu, w paiecie programowym STATISTICA [0], w órym wysępuje moduł progozowaia a podsawie szeregów czasowych, zajduje się opcja zw. przeszuiwaia sieciowego paramerów, polegająca a ym, że program powięsza warość ażdego parameru od warości miimalej do warości masymalej co usaloy przyros jego warości i dla ażdej ombiacji warości paramerów obliczaa jes suma wadraów różic (6) między warościami zaobserwowaymi Auor pracuje rówież jao wyładowca w Wyższej Szole Eoomiczej w Warszawie.
i progozowaymi (wygładzaymi). a ej podsawie wybieraa jes ajlepsza ombiacja warości paramerów miimalizująca sumę wadraów różic. ależy sobie jeda zdać sprawę, że przesrzeń poszuiwań warości paramerów przy aim podejściu może być bardzo duża. Gdybyśmy p. w modelu Hola próbowali dobrać ajlepszą parę współczyiów α, β (ze względu a miimalizację sadardowego błędu progozy) przy przyjęym rou zmiay warości ych współczyiów rówym 0.00, o ależałoby sprawdzić 000 2 par warości ych współczyiów! Z olei dla =0.0 ależałoby wyoać ylo 00 2 sprawdzeń. Powracając do paieu STATISTICA, dodaowym ograiczeiem jes fa, że masymala liczba ombiacji warości paramerów, órą moża am sprawdzić jes ograiczoa i wyosi 8000. Zadaie doboru opymalych paramerów miimalizujących warość fucji błędu progozy moża rówież sprowadzić do zadaia opymalizacji ieliiowej lub (dla szczególych posaci fucji błędu progozy) do zadaia opymalizacji liiowej, co zosaie poazae w dalszej części aryułu (rozwiązaie aiego zadaia może być zalezioe p. poprzez użycie dodau Solver w aruszu MsExcel). Obie meody wiążą się jeda z pewymi iedogodościami związaymi albo z ich efeywością (meody opymalizacji ieliiowej i liiowej), albo z ich zbieżością (lub raczej braiem zbieżości) do miimum rozparywaej fucji (meody opymalizacji ieliiowej). Z ego eż powodu, ja rówież w przypadach, iedy przesrzeń poszuiwań paramerów jes duża przydae mogą oazać się meody sochasyczego poszuiwaia warości paramerów modelu miimalizujące fucję błędu progozy. W iiejszym aryule przedsawioa zosaie idea meod sochasyczego poszuiwaia ajlepszych paramerów modeli wygładzaia wyładiczego oraz dooaa zosaie aaliza ich zasosowaia dla rzech posaci modelu Browa. W [] przebadao e meody w modelach Hola i Wiersa oraz przeprowadzoo porówaie możliwości ich wyorzysaia do progozowaia warości Warszawsiego Idesu Giełdowego. Modele wygładzaia wyładiczego Browa Prosy model wygładzaia wyładiczego zay jes w lieraurze doyczącej progozowaia a podsawie szeregów czasowych od 959 rou. Auor modelu - R.G. Brow - podczas drugiej wojy świaowej pracował dla Maryari Wojeej USA, gdzie był przydzieloy do opracowaia sysemu śledzącego cel, wyorzysywaego do loalizacji oręów podwodych dla porzeb serowaia ogiem. Późiej zasosował ę echię do progozowaia popyu a części zapasowe. Opisał e pomysły w swojej siążce [] a ema serowaia zapasami. Prosy model Browa może być sosoway w przypadu wysępowaia w szeregu czasowym prawie sałego poziomu zmieej progozowaej oraz wahań przypadowych. Model e może być opisay za pomocą asępującego wzoru reurecyjego [3]: lub rówoważie y = F = α y + ( α) y ()
gdzie: α = y ( α) + α q y (2) y ( ) - warość progozy zmieej y a chwilę ; - warość zmieej y w szeregu czasowym w chwili -; - błąd ex pos progozy wyzaczoej a chwilę -, q y y ( ) (3) y - q - = α α - paramer modelu, zw. sała wygładzaia, α [0, ]. Z () wyia, że warość progozy a chwilę zależy, w sposób reurecyjy, od warości z szeregu czasowego i progoz a chwile -, -2,...,. Jao warość progozy y iezbędą do osrucji modelu przyjmuje się ajczęściej warość począową zmieej progozowaej w szeregu czasowym, z. y lub średią arymeyczą pierwszych ilu (p. 5) warości zmieej y z szeregu czasowego. Warość współczyia α wpływa a sopień wygładzeia szeregu czasowego (sąd azwa : model wygładzaia wyładiczego): jeżeli α, o budowaa progoza będzie uwzględiała w wysoim sopiu błędy ex pos progoz poprzedich; w przeciwym przypadu (α 0) budowaa progoza będzie uwzględiała w iewielim sopiu e błędy. W lieraurze (p. [3], [5]) moża spoać sugesie, że α powio ależeć do przedziału (0.2; 0.3). Jeda w sudiach prowadzoych p. przez Maridaisa w [8] ajlepsze progozy przyosiły częso warości α>0.3. Poieważ wielość współczyia α ma wpływ a jaość modelu progosyczego i wielość błędów progoz (3) a ażdą chwilę - a ie moża arbiralie wsazać ajlepszej warości ego współczyia dla ażdych daych - wobec ego podsawowy problem, óry doyczy prosego modelu Browa moża zdefiiować asępująco: zaleźć aie α, dla órego zachodzi s ( α ) = mi s( α) (4) gdzie: s(α) α [0,] - sadardowy błąd progozy, 2 s = (5) = - liczba daych w szeregu czasowym. ( y y ) Zadaie (4) moża raować jao zadaie programowaia wadraowego (pomijając symbol pierwiasa) i rozwiązać jedą ze zaych meod zaprezeowaych p. w [2]. Dla przyładu, we wspomiaym wcześiej paiecie STATISTICA [0] zajduje się opcja wyzaczaia opymalych warości paramerów modeli wygładzaia wyładiczego polegająca a miimalizacji fucji sumy wadraów różic opisaej asępująco: ( y y ) s = (6) = przy użyciu meody quasi-ewoa [2]. 2
Zauważmy, że fucje (5) i (6) osiągają miimum dla ej samej warości parameru α i w sumie ie ma zaczeia (z puu widzeia rozwiązaia α ), óra z ich będzie miimalizowaa (preferowaa jes fucja (6) z racji prosszej posaci). Czasami sosowaa jes fucja: s = y y (7) = óra opisuje średi bezwzględy błąd progozy. Jej posać jes o yle isoa, że miimalizacja fucji (7) jes miimalizacją sumy odchyleń bezwzględych, a e problem sprowadzaly jes w prosy sposób do ławiejszego obliczeiowo problemu programowaia liiowego [6]. W celu sprowadzeia zadaia (4), w órym fucję celu opisaą przez (5) zasępujemy fucją opisaą przez (7), do rówoważego zadaia programowaia liiowego przeprowadźmy rozumowaie przedsawioe w [6] (rozdz..3.). W ym celu ozaczmy: z = max{0, y y}, =, (8) z = max{0, y y }, =, (9) Wówczas możemy zapisać, że dla ażdego =, zachodzi: y ( α ) y = z + y (α) z y = z z (0) () z 0, z 0, z z = 0 (2) Po uwzględieiu powyższych zapisów orzymujemy asępujący problem programowaia liiowego: z + z mi (3) = przy ogr. y ( α ) z + z = y, =, (4) α 0 (5) z 0, z 0, =, (6) ależy jeszcze ylo zauważyć, że w problemie (3) (6) pomięliśmy warui z z = 0, =,, ale ja poazao w [6] ie rozszerza o zbioru rozwiązań opymalych. Zadaie (3) moża rozwiązać wyorzysując sadardowe meody rozwiązywaia zadań programowaia liiowego (p. algorym simplesowy [6]). Jedaże problem opisay przez (3) (6) może być dużych rozmiarów (liczba zmieych wyosi 2+, liczba ograiczeń 3+2) i mogą być problemy z efeywością jego rozwiązywaia. Iym modelem z grupy modeli Browa jes zw. lasyczy model Browa. Zosał o zapropooway w [2] rówież przez F.G. Browa. W modelu ym załada się, że szereg czasowy y jes sumą sładia sysemayczego m i sładia losowego ζ. Sładi sysemayczy jes opisyway wielomiaem sopia p. Szereg czasowy y przedsawić wobec ego moża w asępującej posaci:
2 p y = m + ζ = a0, + a, + a2, +... + a p, + ζ (7) 2! p! Isoa modelu polega a ym, że wyorzysuje się w im zw. operaory wygładzaia S rzędu, = 0,, óre zależą reurecyjie od warości szeregu czasowego w chwilach, -, -2,..., w sposób asępujący: 0 S = y (8) S α) = α S + ( α) S, =, ( a podsawie uładu rówań (8) wyzacza się uład rówań wiążących ocey współczyiów a i,, i =, p, =, z rówaia (7) z warościami operaorów S, = 0,. Dla przypadu, iedy p= (z. sładi sysemayczy ze wzoru (7) opisay będzie wielomiaem pierwszego sopia) poazuje się, że zależość a jes asępująca [2]: 2 a0, = 2 S S α (9) 2 a, = ( S S ) α 2 Jao warości S oraz S przyjmuje się ajczęściej począową warość z szeregu, z. S = S 2 =y. Progozę y a chwilę >T buduje się w sposób asępujący: y ( α ) = a0, T + a, T ( T ), > T (20) gdzie T ozacza liczbę chwil z szeregu czasowego, óre bierzemy pod uwagę do budowy progozy y. ajczęściej jes a, że T=-. Mówimy wedy o progozach budowaych z jedooresowym wyprzedzeiem. Problem (4), dla lasyczego modelu Browa, przybiera podobą posać ja dla modelu prosego, z ą różicą, że zamias fucji y ze wzoru (), wysępującej w (5), ależy przyjąć fucję (20). Zmodyfiowaa wersja lasyczego modelu Browa zosała zapropoowaa przez Z. Pawłowsiego w [9], s. 24 245. Modyfiacja a jes prossza pod względem rachuowym a jedocześie pozwala, ja pisze auor, bardziej efeywie wiosować w przyszłość. Ma oa posać: y ( α ) = yt + yt ( -T ), > T, 2 T (2) gdzie: y y y (22) T T = T T T ( α) y, y - progozy wyzaczae z () odpowiedio dla =T oraz =T-; Z (2) widać, że progoza a chwilę >T budowaa jes jao suma progoz wyzaczaych z prosego modelu Browa: progozy a osaią chwilę (z braych pod uwagę) w szeregu czasowym oraz różicy progoz z osaiej i przedosaiej
chwili w szeregu czasowym przemożoej przez liczbę oresów odległych od chwili T. Dla progoz budowaych z jedooresowym wyprzedzeiem (z. gdy =T+) formuła (2) przybiera posać : y = T + ( α) = yt + yt (23) Dla zmodyfiowaego modelu Browa, problem (4) przybiera podobą posać ja dla modelu prosego, z ą różicą, że zamias fucji y ze wzoru (), wysępującej w (5), ależy przyjąć fucję (2). Idea sochasyczych algorymów doboru ajlepszych paramerów modeli wygładzaia wyładiczego Rozważając algorymy sochasycze [3] bierze się zawsze pod uwagę pewą absracyją przesrzeń probabilisyczą (Ω, G, P) i załada się, że wszysie rozważae wielości losowe będą w iej zdefiiowae. Ozaczmy przez S E zbiór rozwiązań dopuszczalych rozwiązywaego zadaia (p. dla zadaia (4) S=[0,] E, dla modelu Hola będzie S=[0,] [0,] E 2 ). Zbiór S rozszerza się do przesrzei miarowej (S, A, λ), wyróżiając w im pewe σ-ciało podzbiorów A oraz pewą miarę λ (poieważ S E, więc λ moża ierpreować jao długość odcia w E oraz pole powierzchi w E 2 ). Poado będziemy rozparywać pewe podzbiory T S, óre aże rozszerzamy do przesrzei mierzalych (T, B, µ). Przez pu losowy w T rozumieć będziemy ażde mierzale odwzorowaie Ω w T. Każde aie odwzorowaie geerować będzie rozład prawdopodobieńswa w przesrzei (T,B), óry ozaczymy przez Q. Będziemy mówili, że pu losowy X ma rozład jedosajy a (T, B, µ) (róo: a T), jeżeli 0<µ(T)< oraz Q(B)=µ(B)/µ(T). Będziemy o zapisywać : X~U(T). Jeżeli przez f ozaczymy fucję ryerium (p. (5) dla prosego modelu Browa), o załada się o ej fucji, że jes A-mierzala, z., że dla ażdego puu losowego X w zbiorze S wielość f(x) jes zwyłą zmieą losową. Poado, jeżeli isieje rozwiązaie x S problemu mi f(x), o liczba f =f(x ) ma asępującą własość: x S P{ω Ω: f(x(ω))<f }=0 (24) oraz P{ω Ω: f(x(ω))<f +ε}>0 dla ażdego ε>0, (25) gdzie X jes puem losowym w S. Przedsawimy jeszcze podsawową defiicję, óra jes sosowaa do oreśleia i badaia zbieżości algorymów realizujących meody poszuiwaia losowego esremum fucji. Defiicja [3] Jeżeli ciąg zmieych losowych ( f ( X )) 0 dąży z prawdopodobieńswem do f, o mówimy, że ciąg puów losowych ( X ) 0 dąży z prawdopodobieńswem do miimum globalego fucji f w przesrzei (S, A, λ).
Poiżej opiszemy rzy algorymy sochasycze zasosowae do badań. Algorym (z losowaiem puów próbych) Algorym e zalicza się do grupy algorymów zwaych algorymami z losowaiem puów próbych [3]. Ogóly schema ego algorymu przedsawia się asępująco: ξ, gdy f ( ξ ) < f ( x ) ("suces") + x = x, gdy f ( ξ ) f ( x ) (26) gdzie: x + - oleje przybliżeie (w +-szym losowaiu) rozwiązaia x S, x=α; ξ - pu losowy w zbiorze S, S=[0,] oraz ξ ~ U(S); f( ) miimalizowaa warość fucji celu opisaa przez (5), z. f( ) = s( ) (27) w órej (), y = (20), (2), dla prosego modelu Browa dla lasyczego modelu Browa dla zmodyfiowaego modelu Browa Idea algorymu polega a ym, że w ażdej +-szej ieracji losujemy z rozładem rówomierym ze zbioru S ombiację paramerów odpowiediego modelu (zw. pu próby ξ ; sąd azwa algorymu). Jeżeli warość fucji celu (oreśloa przez (27)) dla owo wylosowaych paramerów jes miejsza iż dla paramerów z poprzediego (z. -ego) rou, o owym przybliżeiem rozwiązaia problemu (4) jes zesaw owo wylosowaych paramerów, czyli pu próby ξ. W przeciwym przypadu pozosajemy przy rozwiązaiu x zalezioym do -ego rou. Ciąg (x ) 0 możemy więc raować jao ciąg coraz lepszych (ie gorszych) przybliżeń miimum fucji (27). Mimo, że jes o ajprosszy z możliwych algorymów, o jeda, ja poażemy w asępych rozdziałach, jes bardzo sueczy. Algorym 2 (z losowaiem ieruu poprawy) Algorym e zalicza się do grupy algorymów zwaych algorymami z losowaiem ieruu poprawy [3]. Ogóly schema ego algorymu przedsawia się asępująco: gdzie: x + x + a ξ, gdy f ( x + a ξ ) < f ( x ) = x, w przeciwym przypadu (28) x + - oleje przybliżeie (w +-szym losowaiu) rozwiązaia x S, x=α; ξ - pu losowy (ierue poprawy) w zbiorze Z,
Z = { e, e} (29) gdzie wielość e ozacza wersor osi uładu współrzędych, ξ ~ U(Z); a - długość rou, zmiea losowa o rozładzie rówomierym losowaym ze zbioru T, [0, x ], T = [0, x ], gdy gdy ξ = e ξ = e (30) oraz a ~ U(T); f( ) fucja celu oreśloa przez (27); Idea ego algorymu polega a ym, że w ażdej +-szej ieracji losujemy z rozładem rówomierym ze zbioru Z (oreśloego przez (29)) ierue ξ poszuiwaia miimum fucji, zw. ierue poprawy. Kierue e moża ierpreować w e sposób, że oreśla o umer parameru fucji celu oraz o, czy warość ego parameru będzie zmiejszaa, czy zwięszaa. p. dla modelu Browa, jeżeli wylosujemy e, o ozacza o, że będziemy zmiejszać (bo ) warość pierwszego parameru (bo umer =, czyli α). asępie losujemy długość rou, czyli warość zmiay odpowiediego parameru fucji celu (w zależości od ego, óry ierue (czyli paramer) wylosowaliśmy) zgodie z (30). Zauważmy, że warość długości rou jes losowaa w e sposób (por. (30)), aby pu x +a ξ mieścił się w zbiorze S. Jeżeli warość fucji celu (oreśloa przez (27)) dla argumeu x +a ξ jes miejsza iż dla argumeu x z poprzedich roów, o owym przybliżeiem rozwiązaia problemu (4) jes x +a ξ. W przeciwym przypadu pozosajemy przy rozwiązaiu x zalezioym do -ego rou. Podobie, ja o było w algorymie ciąg (x ) 0 możemy raować jao ciąg coraz lepszych (ie gorszych) przybliżeń miimum fucji (27). Algorym 3 (z adapacją rozładu prawdopodobieńswa ieruu poprawy) Idea ego algorymu jes rochę bardziej sompliowaa iż dwóch wcześiej przedsawioych. Isieje uaj pewa aalogia do algorymu 2. Różica polega a ym, że o ile w algorymie 2 losowaliśmy ażdy z ieruów poprawy z jedaowym prawdopodobieńswem w ażdym losowaiu, o w algorymie 3 rozład prawdopodobieńswa ieruu poprawy jes zmieiay w racie obliczeń, w ai sposób, aby wyorzysać zebrae już iformacje o miimalizowaej fucji. Poado ia jes filozofia wyzaczaia długości rou w ażdym losowaiu. Przedsawioy poiżej algorym jes zmodyfiowaą wersją algorymu 5A zaprezeowaego w [3]. Weźmy pod uwagę algorym 2 i iech ' ' ' Z={ e, e2,..., e2 K } (3) ' będzie zbiorem rozważaych am ieruów, przy czym e = e dla j =, K oraz ' e j = e j K dla j = K +, 2 K, gdzie K ozacza liczbę paramerów modelu (z. K= dla modelu Browa, K=2 dla modelu Hola, K=3 dla modelu Wiersa, (por. j j
( ) [])). iech ( p j ) j 2 K będzie rozładem prawdopodobieńswa, według órego ' w -ym rou ieracyjym losujemy jede z ieruów e j, j =, 2 K. iech () p j =, j =, 2 K (32) 2 K ( ) i rozważmy asępujący sposób modyfiacji rozładu ( p ) : jeżeli a -ym eapie obliczeń wylosowaliśmy ierue e p ( + ) j( ) = p ( ) j( ) oraz dla i =,2 K, i j( ) : ( ) j( ) ' j() j j 2 K, o przyjmujemy: ' j( ) θ ( p ) sg [ f ( x + a e ) f ( x )] (33) p + ( p )] (34) 2 K gdzie θ [0,] jes paramerem algorymu (dla θ=0 mamy ieadapacyjy algorym 2). Ze wzorów (33) i (34) wyia, że w przypadu sucesu w -ym rou (z. gdy warość fucji celu w -ym rou będzie miejsza iż w rou poprzedim) zwięszamy prawdopodobieńswo wylosowaia ego samego ieruu w asępym rou i zmiejszamy o prawdopodobieńswo w przypadu porażi. Aalogicza idea przyświeca wyzaczaiu długości rou a w olejych ieracjach: a losujemy z rozładem rówomierym ze zbioru: ( ) ( ) ( ) ' i = p θ + i j( ) ) sg [ f ( x + a e j( ) ) f ( x [0, δ ( x )], gdy j() {,..,K} T ( ) = (35) [0, δ x ], gdy j() { K +,.., 2 K} przy czym, jeżeli a -ym i --szym eapach obliczeń wylosowaliśmy e sam ierue ξ - = e ' j( ) =ξ = e ' j(), o δ (0,); w przeciwym przypadu δ=. Zauważmy, że jeżeli w poprzedim eapie wylosowaliśmy e sam ierue, co w eapie obecym, o zmiejszamy długość rou, chcąc w e sposób ja ajlepiej wyorzysać fa, że poruszamy się w dobrym ieruu i ja ajwięcej puów w ym ieruu poprawy sprawdzić; w przeciwym przypadu losujemy długość rou a, ja w algorymie 2 (por. (30)). Możemy obecie podać ogóly schema algorymu 3 : x + a, gdy ( + ) < ( ) + ξ f x a ξ f x x = (36) x, w przeciwym przypadu gdzie: x + - oleje przybliżeie (w +-szym losowaiu) rozwiązaia x S, x=α; ξ - pu losowy (ierue poprawy) w zbiorze Z oreśloym przez (3), losoway z rozładem prawdopodobieńswa oreśloym przez (33) (34); a - warość długości rou będąca zmieą losową o rozładzie rówomierym a zbiorze T() oreśloym przez (35), czyli a ~ U(T()); f( ) fucja oreśloa przez (27);
Aaliza doładości i zbieżości prezeowaych algorymów w modelach wygładzaia wyładiczego Podaie waruów a doładość orzymaego rozwiązaia, ja rówież waruów zbieżości dla wszysich rozparywaych w poprzedim pucie algorymów ie jes rywiale. Sosuowo ajprossza syuacja zachodzi dla algorymu, dlaego eż dla iego podamy aaliycze warui a doładość orzymaego rozwiązaia oraz zbieżość algorymu. Dla pozosałych algorymów przedsawimy empirycze oszacowaia zbieżości i doładości. Rozważmy algorym opisay przez ciąg formuł (26) (27) w poprzediej części aryułu. Zgodie z założeiami am poczyioymi ξ, =, 2,... są iezależymi zmieymi losowymi o rozładzie jedosajym w przesrzei (S, A, λ). Dla ażdego podzbioru A S, A A, mamy: P{ ξ A} = λ( A) / λ( S) (37) Przypuśćmy, że za pomocą algorymu wyoaliśmy roów ieracyjych i że jao przybliżeie opymalego rozwiązaia x S orzymaliśmy X. Chcemy odpowiedzieć a pyaie: z jaą doładością oszacowaie X przybliża iezay pu x miimum globalego fucji f (opisaej przez (27)) a zbiorze S? Aby odpowiedzieć a o pyaie przeprowadzimy rozumowaie przedsawioe w [3]. i Rozważmy ciąg warości fucji f i = f ( ξ ), w losowych puach ξ i, i =,. i=, Jes o ciąg iezależych zmieych losowych o jedaowym rozładzie prawdopodobieńswa. Ozaczmy przez F dysrybuaę ego rozładu: λ { x S : f ( x) < y} F( y) = P( fi < y) = (38) λ( S) Poieważ warości fucji ie są zae (gdyż doyczą losowych argumeów), o dysrybuaa F rówież ie jes zaa. Dla rozważaego algorymu, pu X jes ajlepszym puem spośród puów X =ξ, X 2,..., X w ym sesie, że f(x )= mi {f, f 2,..., f } (39) Wyia sąd, że : P{f(X ) y} = [-F(y)] (40) Fa e umożliwia oceę doładości rozwiązaia przybliżoego X przez oszacowaie wielości zbioru puów x S, w órych fucja f przyjmuje warości miejsze (czyli lepsze) od f(x ), przy czym przez wielość ego zbioru rozumiemy jego względą miarę: λ { x : f ( x) < f ( X )} Λ = (4) λ( S) Z (4) wyia, że dla jedowymiarowego przypadu (p. dla S=[0,]) wielość a jes rówa sosuowi sumy długości odciów wewąrz órych warość fucji
f jes miejsza od warości f(x ) do długości odcia [0,]; dla dwuwymiarowego przypadu (p. dla S=[0,] [0,]) wielość a jes rówa sosuowi sumy pól figur wpisaych w wadra o bou długości, aich, że dla ażdego puu x ależącego do ej sumy warość fucji f jes miejsza od warości f(x ) do pola wadrau o bou długości. Poieważ X jes wielością losową, więc Λ jes zmieą losową. Dla dysrybuay ej zmieej losowej prawdziwe jes asępujące wierdzeie. Twierdzeie [3] Jeżeli ξ, ξ 2,..., ξ jes ciągiem iezależych puów losowych o rozładzie jedosajym a przesrzei (S, A, λ), X =ξ, X 2,..., X jes ciągiem oreśloym wzorem (26) oraz zbiór Λ jes oreśloy przez (4), o dla ażdego ε (0,) P { Λ > ε} ( ε) (42) Dowód ego wierdzeia zaprezeoway zosał w [3]. Z powyższego wierdzeia wyia, że jeżeli usalimy liczbę η (0,) i dobierzemy ajmiejsze =(ε,η) aie, że ( ε) η (43) o jeżeli za pomocą algorymu wyoamy =(ε,η) roów ieracyjych, o orzymamy : λ{ x : P f ( x) < f ( X λ( S) )} > ε η (44) Z (43) orzymujemy, że: log( η) (45) log( ε) gdzie symbol x ozacza ajmiejszą liczbę całowią ie miejszą od x. Z (45) wyia, że aby p. z prawdopodobieńswem η zloalizować miimum fucji f jedej zmieej z doładością do przedziału o długości ie przeraczającej ε, a więc z doładością do części zaresu zmieości argumeu rówej ε ależy wylosować co ajmiej puów oreśloych wzorem (45). W ogólości, jeśli mamy fucję zmieych oreśloą a przesrzei [0,] i jeśli chcemy zloalizować miimum ej fucji z doładością do części zaresu zmieości ażdego z argumeów rówej ε, o musimy zloalizować je z doładością do ε rozmiaru całej przesrzei [0,], czyli liczba puów, óre ależy wylosować wyosi: log( η) log( ε ) (46)
Dla przyładu, jeżeli w modelu Browa chcielibyśmy z prawdopodobieńswem η=0.95 zloalizować miimum fucji f (oreśloej przez (5)) z doładością do przedziału (bo fucja (5) jes fucją jedoargumeową) o długości ie przeraczającej ε=0., czyli z doładością do dziesiąej części zaresu zmieości argumeu, o ależałoby wylosować log( 0.95) = 28 log( 0.) (47) puów. Z olei, jeżeli w modelu Hola chcielibyśmy z prawdopodobieńswem η=0.95 zloalizować miimum fucji f z doładością do dziesiąej części zaresu zmieości ażdego z argumeów (fucja f w modelu Hola jes dwuargumeowa, por. []), o ależałoby już wylosować log( 0.95) = 299 2 log( 0. ) (48) puów. ależy zauważyć, że przedsawioe wyżej zagadieie jes rówoważe zaemu w saysyce maemayczej zagadieiu ieparameryczych przedziałów (graic) oleracji. W [4], s. 329 33 przedsawioo formale ujęcie ego zagadieia. iech X ozacza zmieą losową ciągłą o gęsości g(x). Rozparzmy całę W oreśloą asępująco: L2 W = g( x) dx (49) L gdzie L i L 2 są jedozaczymi fucjami saysy pozycyjych w -elemeowych próbach prosych z populacji, órej cechę X badamy. oszą oe azwę graic oleracji. Poieważ L i L 2 są zmieymi losowymi, więc cała W eż jes zmieą losową (o rozładzie bea (por. [4], rozdz. 5.9)) i moża ją uożsamiać z fracją elemeów populacji geeralej zawarą pomiędzy losowymi graicami L i L 2. W [4] poazao, że dla dowolej zmieej losowej X ypu ciągłego i dla dowolego η< moża dobrać aie, że P( W ε) = ( ) 2 ε ( ) d = η a więc przy odpowiedio dobraym prawdopodobieńswo, iż fracja elemeów populacji geeralej zawarych między ajmiejszym i ajwięszym elemeem w -elemeowej próbie jes co ajmiej rówa ε, jes rówe η. Zauważmy, że jeżeli za W podsawimy λ { x : f ( x) < f ( X )} W = (5) λ( S) o (50) moża uożsamiać z (44). Powiedzmy jeszcze o zbieżości algorymu. Mówi o ym asępujące wierdzeie, óre podamy bez dowodu (dowód zajduje się w [3]). (50)
Twierdzeie 2 [3] Jeżeli ( X ) jes ciągiem puów losowych geerowaych przez algorym (por. wzór (26)), o ciąg e zbiega z prawdopodobieńswem do miimum globalego fucji f (opisaej przez (27)). Isoym problemem, órym możemy być zaieresowai jes wyzaczeie aiej liczby losowań, przy órej warość fucji f z (27) będzie wyzaczoa z odpowiedią doładością w sosuu do warości opymalej f(α ). Oszacowaie ej liczby zosaie przedsawioe w asępym rozdziale (por. (54)). Aaliza wyiów symulacji Przedsawimy obecie wyii badań zbieżości prezeowaych algorymów oraz doładości rozwiązań, óre z ich orzymujemy. W celu przeprowadzeia badań zbudowao symulaor w języu VisualBasic for Applicaios działający w środowisu arusza alulacyjego MsExcel, realizujący prezeowae wcześiej algorymy losowego poszuiwaia miimum fucji (27). Pojedyczy esperyme symulacyjy polegał a wylosowaiu =00 puów losowych. Liczbę ę dobrao ieprzypadowo i ja się oaże była wysarczająca do ego, aby osiągąć dużą doładość warości fucji f(α ) z (27) w sosuu do warości f(α ) dla rozwiązaia opymalego α. Odpowiada oa w przybliżeiu warościom ε=0.02 oraz η=0. z (45). Wyoywao M=30 esperymeów symulacyjych. Ozaczmy przez α warość współczyia α orzymaą po losowaiach w i-ym ( i =, M ) esperymecie symulacyjym, dla j-ego ( j =, 3 ) algorymu oraz -ej meody wygładzaia (dla = mamy prosy model Browa, =2 lasyczy m. Browa, =3 zmodyfioway m. Browa). Poieważ α może przyjmować róże warości w różych esperymeach symulacyjych, więc jes zmieą losową. W ym oeście α i, j, jes i-ą realizacją zmieej losowej α. Esymaor puowy warości oczeiwaej parameru wygładzaia α dla j-ego algorymu oraz -ego modelu wygładzaia po losowaiach puów próbych wyzaczymy asępująco: M ~ α = α, j =, 3, =, 3 (52) j, i, j, M i= Zależość (52) przedsawia oszacowaie warości parameru α dooae przez j-y algorym zasosoway dla -ego modelu wygładzaia przy losowaiach puów próbych. Ozaczmy przez ={,...,} zbiór umerów wylosowaych puów próbych. Z olei przez i, j, ozaczmy asępującą wielość: f ( α i,, ) f ( α ),, = : j i j mi 0. 0 (53) f ( α ) i, j,
gdzie α i, j, ozacza warość parameru α orzymaą do -ego losowaia w i-ym esperymecie symulacyjym ( i =, M ), dla j-ego algorymu ( j =, 3 ) i -ego modelu wygładzaia (dla = mamy prosy model Browa, =2 lasyczy m. Browa, =3 zmodyfioway m. Browa), a α ozacza warość opymalą parameru α dla -ego modelu wygładzaia. Ierpreacja wielości i, j, jes asępująca: jes o ajmiejszy umer puu próbego (losowego), ai, że różica warości fucji f dla ego rozwiązaia (puu próbego) i dla rozwiązaia opymalego (α ) jes ie więsza iż jede proce warości f(α ), dla j-ego algorymu i -ego modelu wygładzaia. Poieważ pu α i, j, jes puem losowym, więc j, jes zmieą losową a i, j, jes jej i-ą realizacją. Przeprowadzając M esperymeów symulacyjych orzymamy pewie rozład empiryczy zmieej j,, óry może być reprezeoway p. za pomocą e 0.9 dysrybuay empiryczej F j,. Wyzaczmy esymaor puowy ˆ j, wayla rzędu 0.9 zmieej losowej. Jes o aa liczba, óra spełia warue: ˆ j, e 0.9 0.9 F ( ˆ ) P( < ˆ ) 0.9 (54) j, j, = j, j, = 0.9 Ierpreacja liczby j, (dla j-ego algorymu i -ego modelu wygładzaia) jes asępująca: jes o miimala liczba losowań puów próbych porzebych do 0.9 ˆ ego, aby z prawdopodobieńswem 0.9 moża było swierdzić, że f( j, α ) różi się od f(α ) ie więcej iż o jede proce. Pozosało jeszcze ylo dodać, że dla algorymu 3 przyjęo θ=0.5 (por. (33), (34)). Przejdziemy eraz do ierpreacji wyiów. W Tabeli przedsawioo wyii esymacji ~α j,, α, f( ~α j, ), f(α 0.9 ), ˆ j, dla rozparywaych modeli Browa oraz algorymów (dla WIG-u w oresie X.994 XI.999). Zauważmy, że opymala warość α współczyia α dla prosego modelu Browa wyosi, czyli ajlepsze efey daje progoza a posawie meody aiwej (por. ()), gdyż jes oa wyzaczaa a chwilę jao warość z szeregu czasowego w chwili -. a Wyresach 3 zaprezeowao szybość zmiejszaia się warości fucji (27) w zależości od umeru rou (umeru puu losowego) dla WIG-u długooresowego (X.994 XI.999). Widzimy, że szybość a jes duża, co 0.9 powierdzają warości ˆ j, w Tabeli. a Wyresie 4 przedsawioo zmiay warości idesu WIG we wrześiu 999r. oraz progozy (liczoe z jedooresowym wyprzedzeiem) warości WIG-u a podsawie wszysich rzech modeli. Zauważmy, że opymala warość α współczyia α dla prosego modelu Browa wyosi rówież (por. Tabelę 2), a ja o było dla WIG-u długooresowego (por. Tabelę ). W Tabeli 2 przedsawioo warości ~α j,, α, f( ~α j, ), f(α 0.9 ), ˆ j, dla rozparywaych modeli oraz algorymów (dla WIG-u a wrzesień 999).
Wyres Porówaie szybości zbieżości algorymów dla prosego modelu Browa f(x ) 320 30 300 290 280 270 260 250 240 230 Algorym 3 Algorym 2 Algorym 0 9 28 37 46 55 64 73 82 9 00 Wyres 2 Porówaie szybości zbieżości algorymów dla lasyczego modelu Browa f(x ) 30 305 300 295 290 285 280 275 270 265 Algorym 3 Algorym 2 Algorym 8 5 22 29 36 43 50 57 64 7 78 85 92 99 Wyres 3 Porówaie szybości zbieżości algorymów dla zmodyfiowaego modelu Browa f(x ) 30 300 290 280 270 260 250 240 230 Algorym 3 Algorym 2 Algorym 8 5 22 29 36 43 50 57 64 7 78 85 92 99
Tabela Oszacowae warości współczyiów modeli Browa oraz odpowiadające im warości fucji f błędu sadardowego progozy dla WIG-u (X.994 XI.999) Rodzaj modelu Browa j Rodzaj algorymu ~α j, α f( ~α j, ) f(α ) 0.985 245.20 40 Prosy (j=) 2 0,97 245.96 244.45 46 3 0,997 244.59 2 0.635 270.88 5 Klasyczy (j=2) 2 0.634 0.635 270.88 270.88 34 3 0.633 270.88 6 0.568 24.37 0 Zmodyfioway (j=3) 2 0.563 0.569 24.40 24.37 39 3 0.575 24.39 8 0.9 ˆ j, Tabela 2 Oszacowae warości współczyiów modeli Browa oraz odpowiadające im warości fucji f błędu sadardowego progozy dla WIG-u a wrzesień 999r. Rodzaj modelu Browa j Rodzaj algorymu ~α j, α f( ~α j, ) f(α ) 0.985 235.20 24 Prosy (j=) 2 0.97 236.4 233.95 >00 3 0.997 234.20 34 0.403 22.57 9 Klasyczy (j=2) 2 0.394 0.398 22.57 22.56 27 3 0.399 22.56 7 0.635 29.89 24 Zmodyfioway (j=3) 2 0.634 0.635 29.89 29.89 27 3 0.639 29.89 7 0.9 ˆ j,
Wyres 4 Warości hisorycze i ajlepsze progozy a podsawie różych modeli Browa dla WIG-u a wrzesień 999r. 7500 WIG m. Browa prosy m. Browa lasyczy m. Browa zmodyfiow. 7000 6500 Ides 6000 5500 5000 4500 4000 09/0/99 09/03/99 09/07/99 09/09/99 09/3/99 09/5/99 09/7/99 09/2/99 09/23/99 09/27/99 09/29/99 Daa oowaia Uwagi i wiosi Z przeprowadzoych badań wyia ila isoych wiosów. Pierwszy o ai, że progozowaie za pomocą prosego modelu Browa sprowadzało się w zasadzie do progozowaia meodą aiwą, gdyż α= świadczy o ym, że przy budowie progozy w ogóle ie bierzemy pod uwagę progoz poprzedich (por. ()). Powierdziła się zaa prawda, że prosy model Browa ie radzi sobie z szeregami czasowymi, w órych wysępuje edecja rozwojowa (meoda ie była w saie zapropoować lepszego rozwiązaia iż meoda aiwa (bo α=)). Oazuje się, że w szeregach czasowych o dużej zmieości warości zmieej progozowaej meoda aiwa częso daje ajlepsze (ze względu a miimalizację błędu progozy) warości progoz. Mimo o, model e ie oazał się ajgorszy (por. Tabelę i Tabelę 2). Jes o częściowym powierdzeiem badań przeprowadzoych przez Maridaisa i iych ([7], [8]), z órych wyiało, że prosa meoda Browa dawała ajlepsze progozy a jede ores aprzód spośród 24 iych meod aalizy szeregów czasowych zasosowaych przez ich w badaiach. Bezwzględie ajlepszym modelem progozowaia oazał się model zapropooway przez Z. Pawłowsiego w [9] (zmodyfioway lasyczy model Browa), choć różica w warości błędu progozy dla α była iezacza w sosuu do pozosałych modeli (por. Tabelę i Tabelę 2). To, że model e oazał się ajlepszy jes ylo powierdzeiem hipoezy posawioej przez Z. Pawłowsiego w [9], że zmodyfiowaa wersja lasyczego modelu Browa jes bardziej elasycza od wersji lasyczej (i oczywiście od wersji prosej).
Jeżeli chodzi o badae algorymy, o zauważmy, że liczba 0. 9 j, losowań 0.9 porzebych do ego, aby warość fucji błędu f( ˆ j, ) ie różiła się więcej iż o proce od warości fucji f dla opymalej warości α parameru α, w zasadzie była miejsza od 5, dla ajlepszego algorymu z puu widzeia szybości zbieżości, czyli dla algorymu 3. ależało się ego spodziewać, gdyż z idei ego algorymu wyia, że jeżeli złapie o w órejś ieracji rozwiązaie lepsze od doychczasowego, o poprzez zwięszaie prawdopodobieńswa wylosowaia ego samego ieruu (óry spowodował, że uzysaliśmy lepsze rozwiązaie) oraz zmiejszaie długości rou zmiay warości parameru próbuje ja ajlepiej wyorzysać fa (poprzez przeszuaie ooczeia lepszego rozwiązaia), że zalazł się w pobliżu ego rozwiązaia. Algorymowi 3 dorówuje, pod względem szybości zbieżości, algorym aomias odsaje od ich algorym 2. Szczególie jes o widocze w modelach wieloparamerowych (por. []). ie jes zasoczeiem, że algorym osiąga a dobre wyii w szybości zbieżości, gdyż Z. Zielińsi w [3] udowadia, iż szybość zbieżości ego ajprosszego algorymu losowego jes ajlepsza spośród prezeowaych przez iego w cyowaej pracy. Zauważmy poado, że wyesymowae warości ~α, j =, 3, =, 3 przedsawioe w Tabeli i Tabeli 2 w więszości j, przypadów ie różią się więcej iż o 0.02 od odpowiediej warości α. Jes o powierdzeiem oszacowaia ze wzoru (45) a liczbę puów losowych, gdyż dla =00 orzymujemy a 90-cio proceowym poziomie ufości (z. η=0.), że warości parameru α ie powiy różić się więcej iż o ε=0.02 od warości α. Zauważmy poado, że gdybyśmy chcieli, aby warość parameru α ie różiła się o więcej iż 0.02 od warości α, o dooując dobraia warości parameru α meodą przeszuiwaia sieciowego (o órej wspomieliśmy we Wsępie) ależałoby sprawdzić =00/2=50 warości parameru α (sarując od α=0 i przyjmując ro zmia warości α rówy =0.02), podczas gdy używając 0.9 algorymu 3 wyoywaliśmy z reguły miej iż 5 roów (por. warości ˆ j, w Tabeli i Tabeli 2). Ta różica jes szczególie widocza w modelach wieloparamerowych (por. []). Zaprezeowae algorymy doboru opymalych paramerów modeli wygładzaia wyładiczego mają charaer uiwersaly i mogą być sosowae rówież do zajdowaia opymalych paramerów ych modeli dla iych szeregów czasowych. Szereg czasowy przedsawiający warości WIG-u był ylo przyładem, dla órego dooao aalizy własości ych algorymów. Aalizę wyorzysaia modeli wygładzaia wyładiczego dla szeregów iesacjoarych do progozowaia warości WIG-u przedsawioo w []. Poado pracę [] moża raować jao uzupełieie ego aryułu, gdyż wyorzysao am rówież meody sochasyczego poszuiwaia miimum fucji błędu progozy, przedsawioe w iiejszej pracy, do wyzaczaia opymalego zesawu paramerów w dwuparamerowym modelu Hola oraz rzyparamerowym modelu Wiersa (addyywym i mulipliaywym). Dopiero sosowaie rozparywaych w pracy algorymów do opymalizacji fucji wieloparamerowej daje pełe porówaie orzyści z ich sosowaia. ˆ
Lieraura []. Brow R.G.: Saisical Forecasig for Iveory Corol. McGrow Hill, ew Yor 959. [2]. Brow R.G.: Smoohig, Forecasig ad Predicio of Discree Time Series. McGrow Hill, ew Yor 963. [3]. Cieśla M. (red.): Progozowaie gospodarcze. PW, Warszawa 997. [4]. Fisz M.: Rachue prawdopodobieńswa i saysya maemaycza. PW, Warszawa 958. [5]. Garder, E. S., Jr.: Expoeial smoohig: The sae of he ar. Joural of Forecasig, 4 (985), -28. [6]. Grabowsi W.: Programowaie maemaycze. PWE, Warszawa 980. [7]. Maridais S., Wheelwrigh S.C.: Forecasig Mehods ad Applicaios. Joh Wiley & Sos, ew Yor 989. [8]. Maridais S., Aderse A., Carboe R., Fildes R., Hibo M., Lewadowsi R., ewo J., Parze R., Wiler R.: The accuracy of exrapolaio (ime series) mehods: Resuls of a forecasig compeiio. Joural of Forecasig, (982), -53. [9]. Pawłowsi Z.: Progozy eoomerycze. PW, Warszawa 973. [0]. STATISTICA PL dla Widows (Tom III): Saysyi II. SaSof Polsa Sp. z o.o., Kraów 997. []. Tarapaa Z.: Aaliza możliwości wyorzysaia wybraych modeli wygładzaia wyładiczego do progozowaia warości WIG-u. Zeszyy auowe Wyższej Szoły Eoomiczej, Warszawa 2000. (w druu) [2]. Zagwill W. I.: Programowaie ieliiowe. WT, Warszawa 974. [3]. Zielińsi R., euma P.: Sochasycze meody poszuiwaia miimum fucji. WT, Warszawa 986.