FOLIA POMERANAE UNIVERSITATIS TECHNOLOGIAE STETINENSIS Folia Pomer. Uiv. Techol. Steti. 200, Oecoomica 280 (59), 99 08 Celia Skrobisz PROGNOZOWANIE BAYESOWSKIE W PRZYPAKU BRAKU PEŁNEJ INFORMACJI NA PRZYKŁAZIE PROUKCJI ENERGII ELEKTRYCZNEJ BAYESIAN PREICTION FOR NON-FULL INFORMATION ON THE EXAMPLE OF ELECTRICITY Katedra Zastosowań Matematki w Ekoomii, Zachodiopomorski Uiwerstet Techologicz w Szczeciie ul. Klemesa Jaickiego 3, 7-270 Szczeci Abstract. The article was cosecrated the baesia modellig ad orecastig o the groud the hierarchical models o time series i case missig data. The priciples o baesia modelig ad orecastig were put-upo to aalsis o productio o electric power. I the article to buildig, estimatio ad predictio the baesia, hierarchical models were used umerical methods Mote Carlo. Słowa kluczowe: aaliza baesowska, brakujące dae, modele hierarchicze. Ke words: baesia aalsis, hierarchical models. missig data. ISTOTA BAYESOWSKIEGO WNIOSKOWANIA W EKONOMETRII Celem iiejszego opracowaia jest przedstawieie baesowskiego modelowaia hierarchiczego w przpadku braku pełej iormacji oraz porówaie otrzmach wików z wikami uzskami klasczmi metodami progozowaia dla brakującch dach. Baesowski model statstcz charakterzowa jest przez gęstość łączego rozkładu prawdopodobieństwa wektora obserwowaego, wektora progozowaego oraz wektora parametrów. Zapis aalitcz tego modelu jest astępując:,, ) /, ) / ) ) () wektor obserwacji; wektor parametrów; ) wstępa (iezależa od obserwacji) wiedza badacza o parametrze, wrażoa za pomocą rozkładu a priori o gęstości ); /) ukcja wiargodości określająca stopień przekoaia, dotcząc przjmowach przez badae zjawisko wartości względem hipotetczch wartości parametru ; /) wiedza badacza o parametrze oparta a całej dostępej iormacji (a podstawie prób i wiedz wstępej), wrażoa w postaci gęstości rozkładu a posteriori. Estmacja parametrów modelu polega a wzaczeiu a podstawie wektora obserwacji i wektora parametrów warukowej gęstości parametrów, prz dam wektorze, czli gęstości rozkładu a posteriori. Wioskowaie baesowskie opiera się a twierdzeiu Baesa: / ) ) / ) (2) / ) ) d
00 C. Skrobisz p ( ) ) / ) d gęstość brzegowego rozkładu wektora X. Predkcja jest wzaczeiem z łączej gęstości p (,, ) gęstości rozkładu warukowego dla wektora progozowaego, prz zaobserwowam wektorze ; jest to tzw. gęstość rozkładu predktwego:,, ) d, ), ) / ) /, ) d /, ) / ) d ) ) ) (3) Uzska rozkład a posteriori / ) i rozkład predktw, ) reprezetuje całą dostępą wiedzę o szacowach wielkościach parametrów i wektorze w astępstwie wektora. W stosowaiu metod baesowskich podstawowmi problemami, z którmi ależ się uporać, są problem atur umerczej. Wzaczeie podstawowch charakterstk rozkładów a posteriori i predktwego wmaga obliczeia całek wielokrotch. Ozacza to, że w przpadku wielowmiarowch przestrzei parametrów i zmiech ukrtch, które są przedmiotem wioskowaia, jedmi dostępmi metodami obliczeiowmi są smulacje metod Mote Carlo. W procesie smulacjm wkorzstwae są róże, p. Gibbsa, Metropolisa i Hastigsa cz algortm elimiacji. BAYESOWSKIE HIERARCHICZNE MOELE SZEREGU CZASOWEGO Ogóle zapis aalitcze zarówo hierarchiczch modeli klasczch, jak i baesowskich są takie same. Różice i to o zasadiczm charakterze dotczą sposobów estmacji, werikacji i budow progoz. Hierarchicz model dwustopiow z liiowm tredem i periodczm składikiem sezoowm moża zapisać astępująco (Zawadzki 2003): m p 2 Y srt αt α0 b0sqst b0srqsrt U srt, s b0sr s m p r Model 3-stopiow wraża się wzorem: s b0 0 (4) m m m p p 2 p Y srlt = αt + α0 + b + b0sr srt = 0s Qst Q 3 + b0srl + Q srlt + U s r = l srlt (5) m m m p p 2 p 3 prz warukach: b0 s = b0 sr = b = 0 s = r = l = 0srl W modelach (), (2) zmiee Q kt, Q srt oraz Q srlt są zmiemi zero-jedkowmi, przjmującmi wartości rówe dla poszczególch podokresów, woszącch odpowiedio, oraz, gdzie p m m m, p2, p3 są podzielikami odpowiadającmi kolejm stop- p p2 p3 iom w hierarchii. Z kolei liczba szacowach parametrów w modelach hierarchiczch jest r
Progozowaie baesowskie w przpadku braku... 0 rówa sumie podzielików pomiejszoch o liczbę stopi w hierarchii. W przpadku modelu dwuczikowego: L p p p p 2 2 2 2 Natomiast w modelu trzczikowm: L p p p p p p 3 3 2 3 2 3 W przpadku, gd ckl wahań wosi 2 miesięc (m = 2), otrzmam czter modele dwustopiowe i trz modele trójstopiowe. Zestawieie tch modeli zawiera tab.. Tabela. Specikacja regularch modeli hierarchiczch dla dach miesięczch Model Czik pierwsz Czik drugi Czik trzeci rodzaj zmieości macierz rodzaj zmieości macierz rodzaj zmieości macierz Liczba szacowach parametrów M2 IN H26 H34 H43 H62 H232 H223 H322 półrocze kwartał okres czterech miesięc okres dwóch miesięc półrocze półrocze okres czterech miesięc Źródło: Zawadzki (2003). PR K CZ PR PR CZ w półroczu w kwartale w okresie czterech miesięc w okresie dwóch miesięc dwa e w półroczu kwartał w półroczu dwa e w okresie czterech miesięc MP 6 MK 5 MCZ 5 M 6 P KP MCZ w okresie dwóch miesięc w kwartale w okresie dwóch miesięc TM 4 MK 4 M 4 PROGNOZOWANIE HIERARCHICZNE W PRZYPAKU BRAKUJĄCYCH ANYCH W procesie modelowaia predktwego i progozowaia zmiech wkazującch wahaia sezoowe prz braku pełej iormacji ależ wróżić dwa zasadicze przpadki, gd: a) w szeregu czasowm wstępują luki iesstematcze, b) w szeregu czasowm wstępują luki sstematcze. Z lukami iesstematczmi mam do czieia wted, gd dspoujem przajmiej jedą obserwacją o dam podokresie cklu wahań periodczch (u, kwartale itp.). Gd atomiast brakuje takich dach o przajmiej jedm podokresie, mam do czieia z szeregiem z lukami sstematczmi. Z wstępowaiem luk w dach wiążą się kosekwecje powodujące komplikacje w przebiegu procesu. W przpadku luk iesstema-
02 C. Skrobisz tczch składowe ależące do różch czików (stopi w hierarchii) mogą bć skorelowae. Tm samm ie będzie możliw idwidual pomiar udziału zmieości daego czika w ogólej wariacji sezoowej. Ze zaczie dalej idącmi kosekwecjami mam do czieia w szeregach z lukami sstematczmi. o możliwch astępstw ależ zaliczć: ) skorelowaie składowch ależącch do różch czików, 2) stałość iektórch składowch, 3) wstąpieie zjawiska polegającego a tm, że iektóre składowe mogą bć kombiacjami liiowmi ich składowch. To, z którą ze wskazach wżej stuacji będziem mieć do czieia, zależeć będzie od liczb i rozmieszczeia luk w dach. Na podstawie predktorów w stuacji, gd w dach wstępują luki, wzaczae są dwa rodzaje progoz iterpolacje i ekstrapolacje. Progoz iterpolacje dotczą podokresów przedziału czasowego prób, w którch wstąpił luki w dach. Natomiast progoz wbiegające wprzód poza okres estmacji są progozami ekstrapolacjmi. WNIOSKOWANIE BAYESOWSKIE W PRZYPAKU BRAKUJĄCYCH ANYCH o szacowaia parametrów baesowskich modeli hierarchiczch w przpadku iepełej iormacji zastosowa zostaie algortm EM (Expectatio Maximalizatio). Algortm EM jest uiwersalą umerczą metodą postępowaia. Istota metod polega a ckliczm powtarzaiu dwóch etapów polegającch odpowiedio a przewidwaiu określoch parametrów (krok E), a astępie a wliczeiu zmiech maksmalizującch określoą ukcję celu (krok M). W każdm z tch etapów korzsta się z wielkości obliczoch w etapie poprzedim. Etap wstęp polega a przjęciu założeia dotczącego wartości każdej z brakującch dach, p. średiej lub media. Korzstając z tch wartości, w kroku E estmuje się parametr rozkładu. Następie w kroku M wcześiej przjęte brakujące wartości są zastępowae wartościami dającmi w eekcie ajwiększą wartość ukcji wiargodości. Fukcja wiargodości zależ ściśle od parametrów rozkładu wzaczoch w poprzedim kroku. Formal zapis postępowaia w algortmie EM jest astępując: mam da wektor obserwacji i, któr zawiera dae obserwowae ( obs ) i dae brakujące ( mis ). Przez θ ( μ, σ ) ozaczam bieżące old old old oszacowaia. Wartości zmieej ij old = E ( ij / obs, old ) E( E i i old ij/ obs, θ ) ij / ik obs old wzaczae są ze wzoru:, θ old jeśli ij jest obserwowae jeśli brakuje ij i old ij old old old ij ik cijk i (6)
Progozowaie baesowskie w przpadku braku... 03 ew ew ew Koleje oszacowaia: θ ( μ, σ ) wzacza się ze wzorów: μ σ ew old j ij i ew old old old ew ew jk ( ij ik cijk ) μ j μk i i 0 dla dach obserwowach c old ijk = cov( ij, ik / obs, old ), gd dach brakuje Rozkład a posteriori jest astępując: old ew old ew old ij μ j ik μk cijk θ/obs, mis ) p ( θ) L( θ/ obs, mis ) (8) Co tożsame jest z: / obs ) =, mis / obs ) d mis ) = / mis, obs ) mis / obs ) /d mis (9) Wartość oczekiwaa a posteriori przjmuje wówczas astępującą postać: E ( / obs ) = E [E( / mis, obs ) / obs ] (0) Wariacja a posteriori atomiast ma postać: Var ( / obs ) = E [Var( / mis, obs ) / obs ] + Var [E( / mis, obs ) / obs ] () Rówaie powższe moża aproksmować: p ( / obs ) d mis d p ( mis / obs ). / mis d / obs ) Podobie wartość oczekiwaa i wariacja mogą bć aproksmowae przez: E ( / obs ) ˆ / d d d Var ( / obs ) / d mis, obs ) d = (2), ˆd = E( / d mis, obs ) V d d d ( ˆ d ˆ) 2 V B V d wariacja a posteriori oszacowaa ( mis, obs ), V V d /. d d (7) PRZYKŁA EMPIRYCZNY otchczasowe rozważaia zostaą zilustrowae przkładem empirczm dotczącm miesięczej produkcji eergii elektrczej ENEL.
04 C. Skrobisz Rsuek przedstawia kształtowaie się miesięczej produkcji eergii elektrczej. 6 000 4 000 [kwh] 2 000 0 000 8 000 4 7 0 3 6 9 22 25 28 3 34 37 40 43 46 49 52 55 58 Miesiąc Rs.. Kształtowaie się produkcji eergii elektrczej W badaiu rozpatrzoch zostało pięć wariatów luk sstematczch w dach miesięczch: I luki wstępują w czwartm i ósmm u cklu roczego, II luki wstępują w piątm, siódmm i jedeastm u cklu roczego, III luki wstępują w pierwszm kwartale każdego roku, IV luki wstępują w drugim kwartale każdego roku, V luki wstępują w co drugim u i obejmują e ieparzste, Luki w dach otrzmao poprzez usuięcie odpowiedich dach z pełch szeregów czasowch; kierowao się międz imi odległością międz lukami oaz wstępowaiem miimów i maksimów sezoowch. W aalizie produkcji eergii elektrczej w przpadku wszstkich wariatów luk w dach szacowaiu poddao siedem modeli hierarchiczch, w tm czter dwustopiowe oraz trz trzstopiowe. Rsuek 2 przedstawia brzegow rozkład a posteriori parametru θ_ zmieej ENEL w pierwszm wariacie luk w dach. Tabela 2 przedstawia wartości oczekiwae i odchleia stadardowe a posteriori parametrów siedmiu modeli hierarchiczch badaej zmieej ENEL w pierwszm przpadku luk w dach. Parametr ozacza warukow rozkład a posteriori; zależ od dach oraz ich parametrów modelu. Założoo, że parametr mu ma rozkład ormal, warukow rozkład a posteriori odpowiadając wariacji, warukow rozkład a posteriori o rozkładzie 2.
Tabela 2. Zestawieie wartości oczekiwach (A) i odchleń stadardowch (B) a posteriori parametrów siedmiu modeli w pierwszm wariacie luk w dach Parametr H26 H43 H34 H62 H223 H232 H322 A B A B A B A B A B A B A B θ_ 808,23 238,34 3 23,74 272,5 3 64,04 268,79 3 73,30 380,80 759,5 97,56 790,8 99,82 3 36,60 357,4 θ_2 793,57 24,58 967,6 273,73 9736,94 267,55 2 076,6 370,62 782,92 99,43 842,25 225,83 9654,22 358,60 θ_3 907,9 255,85 44,88 306,50 9905,0 266,98 977,7 376,42 728,20 27,60 799,3 220,82 406,98 248,63 θ_4 787,63 242,23 377,0 306,69 692,69 230,2 969,27 377,52 677,68 224,20 72,20 204,90 609,84 248,8 θ_5 857,22 243,63 770,04 306,84 829,72 230,7 238,27 368,96 θ_6 747,29 249,53 604,8 27,27 σ 66,24 20,66 389,62 02,36 87,37 87,40 374,35 05,45 68,74,86 70,52 3,06 57,28,7 τ 246,68 20,26 858,06 899,9 243,43 028,34 867,76 753,62 295,08 288,49 302,0 293,94 2649,78 799,3 μ 87,39 96,98 477,00 763,5 266,55 872,55 247,36 700,22 737,7 27,46 787,89 220,72 453,32 223,83
06 C. Skrobisz Rs. 2. Brzegow rozkład a posteriori parametru θ_ w modelu H26 w pierwszm wariacie luk w dach W tabeli 3 przedstawioo wartości kwatli brzegowch rozkładów predktwch w przpadku wstępowaia luk w pierwszm wariacie, tj. w 4 i 8 u każdego roku. Tabela 3. Kwatle rozkładów predktwch a posteriori dla poszczególch parametrów Kawtle rzędu 2 _3 _4 _5 _6 0,025 0 436,55 0 528,30 0 60,24 2 83,92 2 233,00 2 402,6 0,25 304,96 353,45 385,47 2 269,24 2 424,39 2 680,55 0,5 35,62 460,03 523,47 2 473,80 2 900,93 2 992,65 0,75 396,22 500,42 648,3 2 758,70 2 950,86 3 280,5 0,95 836,02 634,86 737,74 2 355,79 3 030,98 3 435,08 Rzeczwiste wartości 9755 9774 0436 2790 337 390 Niewielkie różice charakterstk a posteriori dla parametrów θ_, θ_2, θ_3, θ_4, θ_5, θ_6 zawartch w tab. 2 wraźie wskazują a bardzo iewielką wrażliwość wików estmacji baesowskiej a założeia modelowe i rozkład a priori. Aalizę jedowmiarowch brzegowch rozkładów predktwch opieram a kwatlach odcztach z tch rozkładów. Moża tu w szczególości wkorzstać jako miarę rozproszeia różicę międz kwatlami woszącą 0,75 i 0,25 (odległość międzkwatlową) rozkładu predktwego. W tabeli 3, oprócz wartości kwatli, podao zrealizowae wartości zmieej ENEL. Okazuje się, że progoza puktowa a poziomie wszstkich kwatli jest dość traa w tm sesie, że zrealizowae wartości leżą w sąsiedztwie tej charakterstki. Jedie dwie pierwsze zrealizowae wartości odbiegają dość zaczie od uzskach kwatli rozkładów predktwch. Ta stuacja powoduje, że progoz puktowe ie są obarczoe dość dużm błędem progoz, co potwierdzi aaliza błędów progoz ekstrapolacjch.
Progozowaie baesowskie w przpadku braku... 07 W tabelach 4 i 5 przedstawioo wiki średich błędów progoz ekstrapolacjch dla zmieej ENEL w przpadku iepełej iormacji zarówo dla klasczch modeli hierarchiczch (K), jak i baesowskich (B) dla dwóch horzotów czasowch h = 2 i h = 6. Tabela 4. Zestawieie wików progozowaia ekstrapolacjego dla h = 2 Wa- H26 H34 H43 H62 H223 H232 H322 riat K B K B K B K B K B K B K B I 6,2 3,22 8,34 7,25 2,08 0,23 8,67 7,34 4,36 6,32 4,83 5, 9,67 8,35 II 5,5 20,8 7,57 3,33 9,06 8,62 6,64 9,38 4,30 4,38 5,0 4,34 7,5 9,35 III 5,33 4,73 5,56 5,89 0,79 0,69 4,02 3,98 5,57,87 5,73 0,64 0,4 0,03 IV 20,77 8,46 8,63 8,5,84,7 8,57 8,4 20,85 5,73 2,33 8,24,96 0,98 V 4,3 3,9 >30 25,4 0,09 9,45,92 0,82 >30 2,46 4,6 2,85 2,55 0,38 Źródło: wiki dla modeli klasczch Markiewicz (2004); obliczeia włase dla modeli baesowskich. Tabela 5. Zestawieie wików progozowaia ekstrapolacjego dla h = 6 Wariat H26 H34 H43 H62 H223 H232 H322 K B K B K B K B K B K B K B I 6,4 4,52 2,30 2,09 3,7 3,35 2,02 5,90,9 3,06 3, 3,22 2,04,92 II,02 9,86 0,09 2,08 2,55 0,8 6,42 9,02 9,50 3,78 2,80 0,74 7,57 7,94 III 27,56,62 27,82 7,9 5,32 0,55 23,55 2,27 27,85 7,02 27,07 7,9 4,74 7,96 IV 37,35 3,8 3,99 2,79 8,84,63 2,62 2,02 >30 3,79 >30 3,49 9,2 2,4 V 9,42 0,49 >30,66 6,55 7,52 6,28 5,25 >30 0,99 22,06 0,95 6,9 7,60 Źródło: wiki dla modeli klasczch Markiewicz (2004); obliczeia włase dla modeli baesowskich. Progozowaie ekstrapolacje a podstawie baesowskich hierarchiczch modeli szeregu czasowego w warukach wstępowaia luk sstematczch okazało się we wszstkich przpadkach eektwe i spełiające przjęte krterium dopuszczalości progoz. Natomiast w przpadku klasczch modeli hierarchiczch w czterech przpadkach waruek te ie został spełio, tj. dla H34 (V wariat), H223 (IV i V wariat) oraz H232 (IV wariat). Tabela 6 przedstawia procet przpadków, w którch stosując baesowską aalizę brakującch dach w modelach hierarchiczch, osiągięto lepsze wiki średich błędów progoz ekstrapolacjch iż w przpadku klasczej aaliz tch modeli. Tabela 6. Procet przpadków, w którch lepsze wiki progozowaia osiągięto, stosując aalizę baesowską Wariat luk Procet przpadków h = 2 h = 6 I 57,4 57,4 II 28,57 42,85 III 85,7 00 IV 00 00 V 00 00
08 C. Skrobisz POSUMOWANIE Na pięć wariatów luk w dach jedie w drugim wariacie dla dwóch okresów progozowaia w większości przpadków lepsze wiki średich błędów progozą osiągięto, stosując aalizę klasczą. W pozostałch przpadkach lepsze wiki progozowaia uzskao, stosując aalizę baesowską. Natomiast w IV i V wariacie luk dla dwóch okresów progozowaia stosując baesowską aalizę, aż w 00% przpadków osiągięto lepsze wiki, iż stosując klasczą aalizę. Rówież w III warciaie luk, ale tlko dla horzotu czasowego h = 6, stosując baesowską aalizę brakującch dach, osiągięto lepsze wiki w 00%. PIŚMIENNICTWO Box G.E.P., Tiao G.C. 992. Baesia ierece i statistical aalsis. Lod, Wile Classics Librar. Markiewicz A. 2004. Zastosowaie modeli hierarchiczch oraz sieci euroowch w progozowaiu zjawisk ekoomiczch. Szczeci, AR. Osiewalski J. 99. Baesowska estmacja i predkcja dla jedorówaiowch modeli ekoometrczch. Zesz. Nauk. AE Krak. 00, 47 50. Osiewalski J. 200. Ekoometria Baesowska w zastosowaiach. Kraków, AE. Little R.J.A., Rubi.B. 2002. Statistical aalsis with missig data. New Jerse, Wile-Itersciece. Zawadzki J. 2003. Zastosowaie hierarchiczch modeli szeregów czasowch w progozowaiu zmiech ekoomiczch z wahaiami sezoowmi. Szczeci, AR.