Wprowadzenie do Sieci Neuronowych Łańcuchy Markowa

HTML
DOWNLOAD

Wielkość: px

Rozpocząć pokaz od strony:

Download "Wprowadzenie do Sieci Neuronowych Łańcuchy Markowa"

Artur Rogowski
6 lat temu
Przeglądów:

1 Wprowdzenie do Siei Neuronowyh Łńuhy Mrkow Mj Czoków, Jrosłw Piers Przypomnienie Łńuh Mrkow jest proesem stohstyznym (iągiem zmiennyh losowyh), w którym rozkłd zmiennej w hwili t zleży wyłąznie od wrtośi łńuh w kroku poprzednim tj. od Xt 1 i nie zleży od Xt 2, Xt 3... X. P(Xt = k Xt 1 = xt 1, Xt 2...X ) = P(Xt = k Xt 1 = xt 1 ) Jeżeli prwdopodoieństw przejść między stnmi nie zmieniją się w zsie to łńuh nzywmy jednorodnym. t 1 P(Xt = k Xt 1 = x) = P(Xt+1 = k Xt = x) Prwdopodoieństw przejść ędziemy oznzć poprzez pij = P(X1 = j X = i). Wówzs dynmik przejść jest jednoznznie zdefiniown przez mierz kwdrtową P = [pij ]ni,j=1, gdzie n jest ilośią możliwyh stnów. Do tego potrzeny jest rozkłd stnu łńuh w kroku zerowym P = [p1..pk ], gdzie pi = P(X = k). Łńuh jest nieprzywiedlny (rekurenyjny) jeżeli z kżdego stnu d się dojść do kżdego innego. Nieprzywiedlny łńuh nzywmy nieokresowym (periodyznym) jeżeli gd{i : P( } {z w i krokh )} = 1 Tj. stny nie są pogrupowne w fzy np. jeżeli numer kroku jest przysty to łńyh może yć tylko w stnie S lo S2. Fkt Łńuh Mrkow, który jest nieprzywiedlny i nieokresowy posid swój rozkłd stjonrny π, tki że P t πt = πt. To jest łńuh, który już jest w stnie stjonrnym, w tymże stnie już pozostnie. 2 Symulj 2.1 Symulownie łńuh Mrkow wylosuj stn w kroku zerowym t = X zgodnie z rozkłdem pozątkowym P tj. P (X = Si ) = pi, Projekt współfinnsowny przez Unię Europejską w rmh Europejskiego Funduszu Społeznego 1

2 stołówk () Reprezentj grfow łńuh P.1.4 stołówk stołówk () Odpowidją tli przejść Rysunek 1: Przykłdowy łńuh Mrkow. d () Łńuh okresowy () Łńuh nieokresowy Rysunek 2: Przykłd łńuh okresowego i nieokresowego. zwiększ krok t o jeden, wylosuj stn w kroku t-tym Xt z rozkłdu pohodząego z Xt 1 -go wiersz mierzy P, to jest. jeżeli np Xt 1 = Si, to P(Xt = Sj ) = psi,sj 2.2 Losownie z rozkłdu dyskretnego, sposó 1 Nieh P(X = i) = pi. oliz si := Pi j=1 pj dl i = 1..n wylosuj u U(,1) Projekt współfinnsowny przez Unię Europejską w rmh Europejskiego Funduszu Społeznego 2

3 x 2 p=.9 x 1 p=.4 x 8 p=.11 x 7 p=.26 x 3 p=.25 x 4 p=.1 x 5 p=.9 x 6 p=.15 Rysunek 3: Reprezentj grfizn rozkłdu dyskretnego. I := 1 while (s i < u) I + + return I Wrtośi s 1,..., s n możn lizyć n ieżąo w trkie pętli. powtrzne, to lepiej jest zpmiętć je w tliy. Jeżeli losownie m yć wielokrotnie 2.3 Losownie z rozkłdu dyskretnego, sposó 2 Nieh P(X = i) = p i. Nieh s i = i j=1 p j do olizeni rz n symulję. wygeneruj u U (,1) l := r := n do := (l + r)/2 if (u > s ) else l := r := while (l < r 1) return r Projekt współfinnsowny przez Unię Europejską w rmh Europejskiego Funduszu Społeznego 3

4 3 Zdni Zdni przeznzone do wykonni n zjęih / w u do smodzielnej pry. punktowne. Zdnie nie są 3.1 Zdnie (n rozgrzewkę) Oliz lizę π (= ) z pomoą Monte Crlo, tj. losuj punkt z kwdrtu [ 1, +1] [ 1, +1], jeżeli wpdł w kolo o promieniu r = 1 i środku S = (, ), to zwiększ liznik trfień. Zwróć 4 ilość trfień ilość iterji 3.2 Zdnie 1 Zsymuluj łńuh Mrkow z zdną mierzą P i ilośią kroków N. Łńuh powinien zwróić tlię / listę stnów jkie yły przyjmowne w kolejnyh krokh. Stn pozątkowy możn przyjąć jko zdny z góry. 3.3 Zdnie 2 Znjdź rozkłd stjonrny łńuh o zdnej mierzy przejśi P. Poprzez odpowiednio długie symulownie i zlizenie sumryznej lizy odwiedzeń (MCMC). W mirę możliwośi wyświetl wyniki w formie grfiznej. 3.4 Zdnie 3 Porównj wyniki otrzymne w zdniu 2-gim z wynikiem otrzymnym przez iteryjne mnożenie przez sieie P. 3.5 Zdnie 4 Wykonj symulję z zdni 2 n nstępująyh mierzh przejśi. Czy i w tym wypdku wynik nie zleży od wyoru stnu pozątkowego? P 2 = Zdnie 5 P 3 = P 4 = Czy podny łńuh Mrkow zdny przez grf jest nieprzywiedlny / periodyzny 4? Projekt współfinnsowny przez Unię Europejską w rmh Europejskiego Funduszu Społeznego 4

5 () Łńuh 1 () Łńuh 2 () Łńuh 3 (d) Łńuh 4 (e) Łńuh 5 (f) Łńuh 6 d (g) Łńuh 7 (h) Łńuh 8 Rysunek 4: Grfy do zdni. Projekt współfinnsowny przez Unię Europejską w rmh Europejskiego Funduszu Społeznego 5

Podobne dokumenty

Wprowadzenie do Sieci Neuronowych Łańcuchy Markowa

Wprowadzenie do Sieci Neuronowych Łańcuchy Markowa Projekt pn. Wzmonienie potenjłu dydktyznego UMK w Toruniu w dziedzinh mtemtyzno-przyrodnizyh relizowny w rmh Poddziłni 4.1.1 Progrmu Operyjnego Kpitł Ludzki Wprowdzenie do Siei Neuronowyh Łńuhy Mrkow Mj