Piotr KOZIERSKI WYKORZYSTAIE FILTRU CZĄSTECZKOWEGO W PROBLEMIE IDETYFIKACJI UKŁADÓW AUTOMATYKI STRESZCZEIE W artyule przedstawioo sposób idetyfiacji parametryczej obietów ieliiowych zapisaych w przestrzei stau. Idetyfiacja wyorzystuje metodę ajwięszej wiarygodości (ML), z zastosowaiem filtru cząsteczowego i algorytmu oczeiwaiemasymalizacja (EM). Słowa luczowe: idetyfiacja, metoda ajwięszej wiarygodości, filtr cząsteczowy, oczeiwaie-masymalizacja 1. WSTĘP Tworzeie modeli obietów ma bardzo duże zaczeie w różych dziedziach aui, taich ja statystya, eoometria czy automatya. ie jest to taże dziedzia zamięta, gdyż wciąż w ietórych jej obszarach adal są prowadzoe badaia, ja p. idetyfiacja obietów ieliiowych [8]. W pierwszym rozdziale opisao zasadę działaia filtru cząsteczowego. Drugi rozdział został poświęcoy wygładzaczowi cząsteczowemu. Trzeci rozdział przedstawia metodę ajwięszej wiarygodości wyorzystaą do procesu idetyfiacji. W czwartym rozdziale zamieszczoo iformacje dotyczące działaia algorytmu oczeiwaie-masymalizacja. mgr iż. Piotr KOZIERSKI e-mail: piotr.oziersi@gmail.com Wydział Eletryczy, Politechia Pozańsa PRACE ISTYTUTU ELEKTROTECHIKI, zeszyt 260, 2012
158 P. Koziersi 2. FILTR CZĄSTECZKOWY Czytelia chcącego doładiej zrozumieć ideę i zasadę działaia filtru cząsteczowego odsyła się do [7], gdzie podstawy dotyczące tych algorytmów zostały szeroo opisae. Tutaj przedstawioo temat w stopiu miimalym, wymagaym do poprawego przedstawieia tematu. Zadaiem filtru cząsteczowego jest estymacja zmieej stau w modelu, w związu z czym w literaturze jest o często porówyway z filtrem Kalmaa. Sama filtracja jest zaś przeprowadzaa a podstawie iformacji o sygale wyjściowym z obietu. Aby sorzystać z filtru cząsteczowego muszą być spełioe pewe założeia: a) model obietu moża przedstawić w postaci urytego modelu Marowa pierwszego rzędu (pomija się wpływ sygału sterującego w celu uproszczeia zapisu): x y f x 1, v 1, g x,, (1) czyli x zależy tylo od wartości stau w chwili poprzediej, zaś wyjście jest zależe od stau w chwili bieżącej. v jest szumem wewętrzym, zaś szumem pomiarowym, b) zay jest model przejścia (ag. System model) p x x 1, czyli prawdopodobieństwo wystąpieia stau x pod waruiem wystąpieia stau x 1 w poprzediej chwili, c) zay jest model pomiarowy (ag. Measuremet model) p y x, d) zaa jest początowa fucja gęstości prawdopodobieństwa (fgp) p x y 0 0 p x 0. Filtr cząsteczowy opiera się a regule Bayesa y x px Y 1 py Y p p x Y (2) 1 gdzie p y x to wiarygodość (zdefiiowaa w postaci modelu pomiarowego), p to fucja ormująca (ag. evidece), p to fgp y Y 1 x Y 1
Wyorzystaie filtru cząsteczowego w problemie idetyfiacji uładów automatyi 159 apriori, a p x Y to fgp aposteriori, czyli rozład tóry chcemy uzysać, aby móc obliczyć oczeiwaą wartość zmieej stau w chwili x Y x px Y dx. x ˆ E (3) W zapisie przyjęto, że Y y y,..., y. (4) 1, 2 Prior jest wyrażoy wzorem: x Y px x 1 px 1 Y 1 p dx (5) 1 1 przy czym pierwszy czyi pod całą jest to model przejścia, zaś drugi to po prostu fgp aposteriori z chwili poprzediej. Kluczowym elemetem tej metody jest przedstawieie rozładu aposteriori p x Y za pomocą losowo wybraych cząstecze, z tórych ażda ma odpowiedią wagę. a podstawie tej wiedzy są obliczae estymaty [3]. Wyorzystywae jest przy tym moce prawo wielich liczb (mpwl), dzięi tóremu przy odpowiedio dużej liczbie cząstecze estymator jest zbieży do ciągłej reprezetacji rozładu aposteriori. Algorytm Bootstrap Filter opisay przez Gordoa, Salmoda i Smitha w [6] jest jedym z pierwszych przyładów filtru cząsteczowego [9, 10, 11]. W metodzie tej wyróżia się dwa roi: predycję i atualizację. Załada się, że zay jest zbiór próbe z fgp p x 1 Y 1. Kro predycyjy polega a przepuszczeiu ażdej z próbe przez model przejścia, * czyli wylosowaiu owych próbe x i z rozładu zależego od wartości stau w chwili poprzediej x 1 i. Atualizacja polega a obliczeiu zormalizowaych wag dla ażdej próbi q i py p j1 y x * x i * j p czyli poszczególe wagi są zależe tylo od modelu pomiarowego, a poieważ wyjście obietu jest dae, podobie ja wartości poszczególych próbe, tóre y x * i (6)
160 P. Koziersi przed chwilą zostały przepuszczoe przez model przejścia, te ro w pratyce sprowadza się do przypisaia wadze q i odczytaej wartości z p y x. We wzorze (6) symbol ozacza wprost proporcjoale, przy czym wiadomo, że i1 i 1. q (7) Poszczególe próbi * ( i ) q i iosą iformacje o rozładzie dysretym i są astępie wyorzystae do powtórego próbowaia (ag. resamplig) wszystich cząstecze. ależy wylosować owych próbe x i, przy czym szasa, że będzie to doładie wartość x * ( i ) wyosi i x j x * i q i x wraz z wagami Pr (8) q Algorytm Bootstrap jest czasami azyway w literaturze jao Samplig- Importace-Resamplig (SIR), jeda w istocie różi się o od typowego SIR odgórym wyborem fucji ważości [1, 3]. 3. WYGŁADZACZ CZĄSTECZKOWY Ta ja celem działaia filtru cząsteczowego jest estymacja rozładu brzegowego (2) [2], ta zadaiem wygładzacza cząsteczowego (ag. particle smoother) jest estymacja rozładu p x Ym px 1 Y 1 x x 1 px Ym dx px Y p 1 (9) przez co wygładzaie jest trudiejsze od filtracji i orzystaie wprost z (9) jest możliwe tylo dla obietów dysretych zapisaych w przestrzei stau, lub dla obietów liiowych isich rzędów [4]. Rozwijając zapis m 1, y 2,..., y, y 1 m Y y,..., y (10) widać, że wygładzaie ma a celu zalezieie wartości zmieej stau w chwili, w tórej zae są późiejsze wartości wyjścia. 1
Wyorzystaie filtru cząsteczowego w problemie idetyfiacji uładów automatyi 161 W szczególym przypadu gdy m 1, wygładzacz staie się po prostu filtrem. W rówaiu (9) miaowi pod całą to fgp apriori wyrażoa wzorem (5). Wyrażeie przed całą to fgp aposteriori, tórą moża otrzymać poprzez wyorzystaie filtru cząsteczowego. Pierwszy czyi w licziu pod całą to model przejścia, zaś drugi czyi moża wyrazić tym samym wzorem (9) po zatualizowaiu chwili czasowej. ależy w tai sposób postępować aż do mometu, w tórym p x Ym px Y. Taie reurecyje podejście jest jedym z dwóch opisaych w [5]. Podobie ja w filtrze cząsteczowym, taże w tym przypadu oreta wartość zmieej stau jest obliczaa jao wartość oczeiwaa, co przy wyorzystaiu cząstecze sprowadza się do wzoru x Ym Ex Ym w i x. i p (11) i1 Aby otrzymać wygładzoe wartości zmieej stau, trzeba ajpierw uruchomić ormaly filtr cząsteczowy dla wszystich roów symulacji 1,..., m i zapamiętać poszczególe cząsteczi q i. x i oraz wagi Wygładzaie ie powoduje zmiay wartości poszczególych cząstecze, a jedyie wpływa a wartości ich wag wyorzystując taże iformację z późiejszych chwil czasowych. Obliczaie olejych wag astępuje od ońca dla ostatiej chwili czasowej m, poszczególe wagi przyjmuje się rówe tym, otrzymaym a podstawie działaia filtru i q i. wm m (12) astępie dla malejącego rou czasowego m, m 1,..., 2 oblicza się poszczególe wagi w i j1 h1 w j px j x i 1 1 i q 1 (13) q 1 h px jx h tóre ależy zapamiętać, aby a ońcu, orzystając z (11) obliczyć wygładzoe wartości zmieej stau. ależy przy tym pamiętać, że podobie ja w przypadu wag q i rówież wagi w i mają tę właściwość, że ich suma musi być rówa jedości, w związu z czym dobrze jest po obliczeiu wszystich wag w -tym rou dooać ormalizacji. 1
162 P. Koziersi Aby porówać działaie filtru cząsteczowego oraz wygładzacza cząsteczowego, zasymulowao obiet day rówaiami x y 0,8x x 1 1 2 1 0,1 x 1 exp 0,1x v (14) v oraz szum pomia- gdzie szum wewętrzy ma rozład ormaly ~ 0; 0,2 rowy taże ma rozład ormaly ~ 0; 0,1. W tabeli 1 przedstawioo wyii symulacji dla 3 różych symulacji testowych oraz 3 różych wartości (liczba próbe). Wyii obejmują czas symulacji t oraz średi wadrat błędu pomiędzy wartością rzeczywistą i estymowaą, tórą moża zapisać jao TABELA 1 Porówaie działaia filtru cząsteczowego i wygładzacza cząsteczowego dla różej liczby cząstecze oraz różej długości symulacji m m = 100 m = 200 m = 500 = 100 = 200 = 500 δ F = 0,453 δ S = 0,368 t = 5,7 s δ F = 0,016 δ S = 0,018 t = 11,6 s δ F = 0,086 δ S = 0,086 t = 28,8 s δ F = 0,435 δ S = 0,377 t = 21,5 s δ F = 0,016 δ S = 0,018 t = 43,0 s δ F = 0,058 δ S = 0,056 t = 105,6 s δ F = 0,433 δ S = 0,363 t = 126,4 s δ F = 0,016 δ S = 0,018 t = 257,3 s δ F = 0,054 δ S = 0,057 t = 635,7 s m 2 x xˆ m (15) gdzie m to długość symulacji testowej, x to prawdziwa wartość zmieej stau w -tej iteracji, zaś xˆ to estymowaa wartość zmieej stau w -tej iteracji.
Wyorzystaie filtru cząsteczowego w problemie idetyfiacji uładów automatyi 163 Wyi działaia filtru cząsteczowego zapisao jao δ F, zaś wyi wygładzaia jao δ S. a rysuu. 1 przedstawioo wyi symulacji dla = 100 i m = 100, a a rysuu 2 dla = 100 i m = 500. Rys. 1. Wyi działaia filtru cząsteczowego i wygładzacza cząsteczowego dla = 100 oraz m = 100 Porówując wyii z tabeli 1 oraz rysuów 1 i 2 moża stwierdzić, że pozytywy wyi wygładzaia jest zauważaly tylo w przypadu błędego działaia filtru cząsteczowego a rysuu 1, a początu symulacji zaobserwowao duży błąd estymacji zmieej stau, tóry został zmiejszoy przez wygładzacz, jeda w stosuowo małym stopiu. ależy taże zwrócić uwagę a czas symulacji dosoale widać, że t jest liiowo zależy od liczby roów symulacji m, oraz wprost proporcjoaly do wadratu liczby próbe. Powoduje to, że wygładzaie jest bardzo osztowe obliczeiowo, co przy uzysaych wyiach stawia pod zaiem zapytaia ses jego wyorzystywaia.
164 P. Koziersi Rys. 2. Wyi działaia filtru cząsteczowego i wygładzacza cząsteczowego dla = 100 oraz m = 500 Moża jeda przyjąć, że w przypadu brau iformacji o modelu przejścia i modelu pomiarowym obietu (do czego dochodzi m.i. przy problemie idetyfiacji) wyi działaia wygładzacza cząsteczowego będzie lepszy iż w przedstawioym, idealym przypadu. 4. ESTYMACJA METODĄ AJWIĘKSZEJ WIARYGODOŚCI To podejście załada masymalizację łączej fgp (ag. joit desity) obserwacji poprzez odpowiedi dobór parametrów: y ˆ arg max p y,..., (16) 1 przy czym łączą fgp moża zdeompoować a
Wyorzystaie filtru cząsteczowego w problemie idetyfiacji uładów automatyi 165 1 1 2 y,..., y py py Y. p (17) 1 Ze względu a mootoiczość (16), problem masymalizacji jest rówozaczy z problemem miimalizacji ˆ arg mi L Y (18) gdzie L Y to logarytmicza postać prawdopodobieństwa (ag. log-lielihood) py log py1 log py Y 1 L Y log (19) tóra jest stosowaa z powodu możliwości zastąpieia iloczyu sumą. O ile wyzaczeie 2 y Y 1 py x px Y dx p 1 (20) jest możliwe poprzez wyorzystaie filtru cząsteczowego, o tyle rozwiązaie problemu optymalizacyjego (18) jest bardziej problematycze, poieważ prócz (20) istieje potrzeba obliczeia pochodej 1. p y Y (21) Jedo z rozwiązań polega a umeryczym obliczeiu wymagaej pochodej. Ie podejścia załadają rozwiązaie problemu bez potrzeby obliczaia pochodej, p. poprzez zastosowaie metod optymalizacji Simplex. W tym artyule zostaie zaprezetoway algorytm Oczeiwaie-Masymalizacja (ag. Expectatio Maximisatio EM) polegający a obliczeiu przybliżeia ML. 5. ALGORYTM OCZEKIWAIE-MAKSYMALIZACJA Algorytm jest iteracyją metodą poszuiwaia masymalej wartości L przy założeiu, że w ażdym olejym rou wartość log-lielihood rośie. Y
166 P. Koziersi Algorytm jest wyoyway ta długo, ja poprawa olejych wartości parametrów t 1 daje efety, a więc mogą pojawić się problemy z oreśleiem czasu działaia algorytmu. Koleje roi algorytmu są astępujące [10]: Algorytm 1 (oczeiwaie-masymalizacja) 1) Iicjalizacja algorytmu; t 0, dobraie taiego 0 2) Oczeiwaie; obliczeie wartości Q, t 1 3) Masymalizacja; obliczeie, aby L było sończoe. t Y t arg max Q, t 1 (22) 4) Jeśli zmiaa wartości Q jest zauważala, to t = t + 1 i przejście do rou 2. W przeciwym wypadu zaończeie algorytmu. W rou 2 ależy dooać obliczeń orzystając ze wzoru, 1 I1 I 2 I 3 Q t (23) gdzie x p x Y I1 log p 1 t 1 1 dx1 (24) I x x p x x Y 2 p 1 t 1, 2 1 log dx dx (25) y x p x Y I 3 log p dx (26) t 1 1 Moża obliczyć przybliżoą wartość i1 i i, 1 1 Q t stosując wzory: I1 w1 log p x1 (27) I 2 m q 1iw j pt 1x j x 1i i1 j1 2 w h p x jx h (28) log p x j x h1 1 i 1 t1 1
Wyorzystaie filtru cząsteczowego w problemie idetyfiacji uładów automatyi 167 m i1 1 i i I3 w log p y x (29) ależy zwrócić uwagę, że we wzorze (28) wartości prawdopodobieństwa modelu przejścia dotyczą zestawu parametrów t 1, z olei pozostałe wartości prawdopodobieństwa ie są zależe od żadego oretego wetora parametrów, co jest związae z 3 roiem Algorytmu 1 masymalizacją. Masymalizacja polega a zalezieiu taich parametrów modelu, aby wyrażeie Q, t 1 przyjęło masymalą wartość. W ogólym przypadu wyrażeie to jest ieliiową fucją i estremum musi zostać zalezioe za pomocą odpowiediej techii. Jedą z taich techi jest metoda gradietowa, w tórej wyorzystuje się pochodą cząstową po parametrach z przybliżoej wartości Q t :, 1 Q, D D 1 2 D 3 log i1 t 1 w 1 D D i 1 2 log p x D 1 3 i m q 1 iw j pt 1x j x 1 i i1 j1 2 w 1h pt 1x jx 1 h h1 px jx i 1 m w i i1 1 log p y x (30) (31) (32) (33) Dzięi rozwiązaiu rówaia (30) i przyrówaiu do zera moża zaleźć masimum fucji, jedaże ie jest to oiecze, poieważ ajważiejsze jest spełieie waruu, aby wartość fucji Q w ażdej iteracji rosła. W związu z tym, zamiast masymalizować wyrażeie (23) moża zaleźć jaiolwie wetor parametrów obietu t, tóry spełia zależość Q,. Q (34) t, t1 t1 t1 Taie podejście powoduje, że zaczie łatwiej zajduje się oleje wartości, jedaże zarazem trzeba liczyć się z wydłużeiem ogólej liczby iteracji T. t
168 P. Koziersi W związu z tym, że w olejych iteracjach zmieia się wetor parametrów, zmieia się taże model obietu, a co za tym idzie taże modele przejścia i pomiarowy. Pociąga to za sobą potrzebę ażdorazowego przeliczaia filtru cząsteczowego oraz wygładzaia wartości zmieej stau w ażdej olejej iteracji algorytmu. ależy brać to pod uwagę podczas wyboru pomiędzy bardziej złożoą metodą poszuiwaia estremum (22) sutującą miejszą liczbą iteracji T, a metodą prostszą, ale pociągającą za sobą więszą liczbę powtórzeń zadziałaia filtru i wygładzacza. Kro 4 Algorytmu 1 wymaga przyjęcia pewej wartości 0. Jeśli wzrost Q będzie miejszy od, to astąpi zatrzymaie. Iymi słowy Algorytm 1 będzie wyoyway ta długo, ja prawdziwe będzie wyrażeie Q,. t, t1 t1 t1 Q (35) 6. PODSUMOWAIE W artyule opisao zasadę działaia filtru cząsteczowego oraz wygładzacza cząsteczowego. Przedstawioo wyii działaia obydwu i zwrócoo uwagę a zachowaie pewej ostrożości podczas wyorzystywaia wygładzaia w algorytmie. Przedstawioo taże estymację parametrów metodą ajwięszej wiarygodości i opisao wyorzystay do tego algorytm oczeiwaie-masymalizacja. Przyglądając się poszczególym wzorom w 4 rozdziale, moża dojść do wiosu, że algorytm oczeiwaie-masymalizacja polega a taim dobraiu parametrów, aby model przejścia oraz model pomiarowy (tóre są zależe od wetora parametrów) ja ajbardziej odpowiadały olejym wartościom zmieej stau w czasie symulacji. Przy założeiu, że zay jest model przejścia oraz model obietu (ale tylo w oteście ształtu fgp, a ie oretego modelu obietu) moża rozpatrzyć metodę, tóra służyłaby do poszuiwaia wetora parametrów tylo a podstawie tych dwóch modeli p x x 1 oraz p y x. LITERATURA 1. Arulampalam S., Masell S., Gordo., Clapp T.: A tutorial o Particle Filters for O-lie o-liear/o-gaussia Bayesia Tracig. IEEE Proceedigs o Sigal Processig, Vol. 50, o. 2, 2002, s. 174-188. 2. Brzozowsa-Rup K., Dawidowicz A.L.: Metoda filtru cząsteczowego. Matematya Stosowaa: matematya dla społeczeństwa 2009, T. 10/51, s. 69-107.
Wyorzystaie filtru cząsteczowego w problemie idetyfiacji uładów automatyi 169 3. Cady J.V.: Bayesia sigal processig. WILEY, ew Jersey 2009, s. 237-298. 4. Doucet A., Freitas., Gordo.: Sequetial Mote Carlo Methods i Practice. Spriger- Verlag, ew Yor 2001, s. 139-196. 5. Doucet A., Johase A.M.: A Tutorial o Particle Filterig ad Smoothig: Fiftee years later. Hadboo of oliear Filterig 2009/12, s. 656-704. 6. Gordo.J., Salmod.J., Smith A.F.M.: ovel approach to oliear/o-gaussia Bayesia state estimatio. IEE Proceedigs-F, Vol. 140, o. 2, 1993, s. 107-113. 7. Koziersi P., Lis M.: Filtr cząsteczowy w problemie śledzeia wprowadzeie. Studia z Automatyi i Iformatyi, Tom 37 (2012), s. 79-94. 8. Ljug L.: Perspectives o system idetificatio. Pleary tal at the 17th IFAC world cogress. Seoul, Korea. July 6-11. 9. Merwe R., Doucet A., Freitas., Wa E.: The Usceted Particle Filter. Advaces i eural Iformatio Processig Systems (IPS 13), Dec. 2000. 10. Schö T.B., Wills A., iess B.: System idetificatio of oliear state-space models. Automatica 47 (2011), s. 39-49. 11. Simo D.: Optimal State Estimatio. WILEY-ITERSCIECE, ew Jersey 2006, s. 461-484. Ręopis dostarczoo dia 16.07.2012 r. EMPLOY A PARTICLE FILTER I THE IDETIFICATIO PROCEDURE Piotr KOZIERSKI ABSTRACT A way of parameter estimatio of oliear dyamic systems i state-space form is preseted. The idetificatio uses Maximum Lielihood method (ML), Particle Filter approach ad Expectatio-Maximizatio algorithm (EM). Keywords: idetificatio, maximum lielihood method, particle filter, expectatio-maximizatio Mgr iż. Piotr KOZIERSKI studet studiów stacjoarych III st. a Politechice Pozańsiej od 2010 rou. Obszar zaiteresowań auowych obejmuje idetyfiację obietów ieliiowych oraz filtry cząsteczowe.
170 P. Koziersi