Wprowadzenie do Sieci Neuronowych Łańcuchy Markowa

Transkrypt

1 Projekt pn. Wzmonienie potenjłu dydktyznego UMK w Toruniu w dziedzinh mtemtyzno-przyrodnizyh relizowny w rmh Poddziłni Progrmu Operyjnego Kpitł Ludzki Wprowdzenie do Siei Neuronowyh Łńuhy Mrkow Mj Czoków, Jrosłw Piers Przypomnienie Łńuh Mrkow jest proesem stohstyznym (iągiem zmiennyh losowyh), w którym rozkłd zmiennej w hwili t zleży wyłąznie od wrtośi łńuh w kroku poprzednim tj. od Xt 1 i nie zleży od Xt 2, Xt 3... X. P(Xt = k Xt 1 = xt 1, Xt 2...X ) = P(Xt = k Xt 1 = xt 1 ) Jeżeli prwdopodoieństw przejść między stnmi nie zmieniją się w zsie to łńuh nzywmy jednorodnym. t 1 P(Xt = k Xt 1 = x) = P(Xt+1 = k Xt = x) Prwdopodoieństw przejść ędziemy oznzć poprzez pij = P(X1 = j X = i). Wówzs dynmik przejść jest jednoznznie zdefiniown przez mierz kwdrtową P = [pij ]ni,j=1, gdzie n jest ilośią możliwyh stnów. Do tego potrzeny jest rozkłd stnu łńuh w kroku zerowym P = [p1..pk ], gdzie pi = P(X = k). stołówk () Reprezentj grfow łńuh P.1.4 stołówk stołówk () Odpowidją tli przejść Rysunek 1: Przykłdowy łńuh Mrkow. Łńuh jest nieprzywiedlny (rekurenyjny) jeżeli z kżdego stnu d się dojść do kżdego innego. Projekt współfinnsowny przez Unię Europejską w rmh Europejskiego Funduszu Społeznego Wyrżm zgodę n wydruk dokumentu do elów dydktyznyh 1

2 Nieprzywiedlny łńuh nzywmy nieokresowym (periodyznym) jeżeli gd{i : P( } {{ } w i krokh )} = 1 Tj. stny nie są pogrupowne w fzy np. jeżeli numer kroku jest przysty to łńyh może yć tylko w stnie S lo S 2. d () Łńuh okresowy () Łńuh nieokresowy Rysunek 2: Przykłd łńuh okresowego i nieokresowego. Fkt Łńuh Mrkow, który jest nieprzywiedlny i nieokresowy posid swój rozkłd stjonrny π, tki że P t π t = π t. To jest łńuh, który już jest w stnie stjonrnym, w tymże stnie już pozostnie. 2 Symulj 2.1 Symulownie łńuh Mrkow wylosuj stn w kroku zerowym t = X zgodnie z rozkłdem pozątkowym P tj. P (X = S i ) = p i, zwiększ krok t o jeden, wylosuj stn w kroku t-tym X t z rozkłdu pohodząego z X t 1 -go wiersz mierzy P, to jest. jeżeli np X t 1 = S i, to P(X t = S j ) = p Si,S j 2.2 Losownie z rozkłdu dyskretnego, sposó 1 Nieh P(X = i) = p i. oliz s i := i j=1 p j dl i = 1..n wylosuj u U (,1) I := 1 while (s i < u) I + + return I Wrtośi s 1,..., s n możn lizyć n ieżąo w trkie pętli. Jeżeli losownie m yć wielokrotnie powtrzne, to lepiej jest zpmiętć je w tliy. 2

3 x 2 p=.9 x 1 p=.4 x 8 p=.11 x 3 p=.25 x 7 p=.26 x 4 p=.1 x 5 p=.9 x 6 p=.15 Rysunek 3: Reprezentj grfizn rozkłdu dyskretnego. 2.3 Losownie z rozkłdu dyskretnego, sposó 2 Nieh P(X = i) = p i. Nieh s i = i j=1 p j do olizeni rz n symulję. wygeneruj u U (,1) l := r := n do := (l + r)/2 if (u > s ) else l := r := while (l < r 1) return r 3 Zdni Zdni przeznzone do wykonni n zjęih / w u do smodzielnej pry. Zdnie nie są punktowne. 3.1 Zdnie (n rozgrzewkę) Oliz lizę π (= ) z pomoą Monte Crlo, tj. losuj punkt z kwdrtu [ 1, +1] [ 1, +1], jeżeli wpdł w kolo o promieniu r = 1 i środku S = (, ), to zwiększ liznik trfień. Zwróć 4 ilość trfień ilość iterji 3.2 Zdnie 1 Zsymuluj 1 łńuh Mrkow z zdną mierzą P i ilośią kroków N. Łńuh powinien zwróić tlię / listę stnów jkie yły przyjmowne w kolejnyh krokh. Stn pozątkowy możn przyjąć jko zdny z góry. 3.3 Zdnie 2 Znjdź rozkłd stjonrny łńuh o zdnej mierzy przejśi P. Poprzez odpowiednio długie symulownie i zlizenie sumryznej lizy odwiedzeń (MCMC). W mirę możliwośi wyświetl wyniki w formie grfiznej. 1 TODO: dopisć rozwiązni do zdń, o i tk ih nikt nie zroi 3

4 3.4 Zdnie 3 Porównj wyniki otrzymne w zdniu 2-gim z wynikiem otrzymnym przez iteryjne mnożenie przez sieie P. 3.5 Zdnie 4 Wykonj symulję z zdni 2 n nstępująyh mierzh przejśi. Czy i w tym wypdku wynik nie zleży od wyoru stnu pozątkowego? P 2 = Zdnie 5 P 3 = P 4 = Czy podny łńuh Mrkow zdny przez grf jest nieprzywiedlny / periodyzny 4 2? 2 TODO: przepisć do tikz 4

5 () Łńuh 1 () Łńuh 2 () Łńuh 3 (d) Łńuh 4 (e) Łńuh 5 (f) Łńuh 6 d (g) Łńuh 7 (h) Łńuh 8 Rysunek 4: Grfy do zdni. 5