Algorytmy MCMC (Markowowskie Monte Carlo) dla skokowych procesów Markowa

Transkrypt

1 Algorytmy MCMC (Markowowskie Monte Carlo) dla skokowych procesów Markowa Wojciech Niemiro 1 Uniwersytet Warszawski i UMK Toruń XXX lat IMSM, Warszawa, kwiecień Wspólne prace z Błażejem Miasojedowem, Johnem Noble, Krzysztofem Opalskim.

2 Plan Skokowe procesy Markowa Definicja i przykłady Ukryte modele Markowa Algorytmy MCMC Reprezentacja trajektorii Algorytm Metropolisa-Hastingsa Algorytm Rao i Teha Geometryczna ergodyczność Geometryczna ergodyczność algorytmu Rao i Teha Geometryczna ergodyczność algorytmu Metropolisa-Hastingsa

3 Plan Skokowe procesy Markowa Definicja i przykłady Ukryte modele Markowa Algorytmy MCMC Reprezentacja trajektorii Algorytm Metropolisa-Hastingsa Algorytm Rao i Teha Geometryczna ergodyczność Geometryczna ergodyczność algorytmu Rao i Teha Geometryczna ergodyczność algorytmu Metropolisa-Hastingsa

4 Plan Skokowe procesy Markowa Definicja i przykłady Ukryte modele Markowa Algorytmy MCMC Reprezentacja trajektorii Algorytm Metropolisa-Hastingsa Algorytm Rao i Teha Geometryczna ergodyczność Geometryczna ergodyczność algorytmu Rao i Teha Geometryczna ergodyczność algorytmu Metropolisa-Hastingsa

5 Skokowe procesy Markowa (czas ciagły, przestrzeń dyskretna) X = {X(t), t min t t max } jest procesem Markowa na dyskretnej przestrzeni stanów S. Intensywność przejścia ze stanu s S do s s: 1 lim h 0 h P ( X(t + h) = s X(t) = s ) = Q t (s, s ). Intensywność wyjścia ze stanu: Q t (s) = s s Q t (s, s ). Proces jest jednorodny jeśli Q t = Q.

6 Modele reakcji (bio)chemicznych Równania reakcji : reakcja 1: A + 2B C,... reakcja k:.... Stan procesu: s = (n A, n B, n C, n D ) {0, 1,...} 4. Intensywność zachodzenia reakcji Q (1) ((n A, n B, n C, n D ), (n A 1, n B 2, n C + 1, n D )) zależy od stanu. Proces jednorodny: Q = Q (1) + Q (k).

7 Przykład sieci bayesowskiej z czasem ciagłym (CTBN)

8 Sieci bayesowskie z czasem ciagłym (CTBN) Graf skierowany (N, E). Dla i W, niech pa(i) = {j : i i}. Stan procesu to konfiguracja s = (s i ) i W, gdzie s i jest elementem skończonego alfabetu stanów wierzchołka i. CTBN jest jednorodnym procesem Markowa z czasem ciagłym na przestrzeni konfiguracji, z macierza intensywności Q (i) (s i, s Q(s, s i s pa(i)) jeśli s i = s i i s i s i ) = dla pewnego i; 0 jeśli s i s i dla wszystkich i, dla s s.

9 Ukryte modele Markowa Proces X jest nieobserwowany. Obserwujemy zmienna losowa Y o rozkładzie prawdopodobieństwa p(y X). Zadanie: obliczyć rozkład a posteriori p(x Y ). Powiedzmy, że znamy p(x) i p(y X). Szczególny przypadek: obserwujemy stan procesu w momentach t min t1 obs < < tk obs t max z błędem losowym. Formalnie, ciag zmiennych losowych Y = {Y 1,..., Y k } taki, że p(y X) = i p(y i X(ti obs )). Szczególny przypadek: obserwujemy pewne wierzchołki CTBN, inne sa ukryte.

10 Ukryte modele Markowa Proces X jest nieobserwowany. Obserwujemy zmienna losowa Y o rozkładzie prawdopodobieństwa p(y X). Zadanie: obliczyć rozkład a posteriori p(x Y ). Powiedzmy, że znamy p(x) i p(y X). Szczególny przypadek: obserwujemy stan procesu w momentach t min t1 obs < < tk obs t max z błędem losowym. Formalnie, ciag zmiennych losowych Y = {Y 1,..., Y k } taki, że p(y X) = i p(y i X(ti obs )). Szczególny przypadek: obserwujemy pewne wierzchołki CTBN, inne sa ukryte.

11 Algorytmy MCMC dla skokowych procesów Markowa Rozkład a posteriori π(x) = p(x Y ) jest rozkładem docelowym, Y jest ustalone. Generujemy łańcuch Markowa X 0, X 1,..., X m,... taki, że π(x) jest rozkładem stacjonarnym i X m π. Rozkład empiryczny ˆπ m = 1 m j=1 m δ X j jest aproksymacja π. Rozkład π jest miara probabilistyczna na przestrzeni trajektorii skokowego procesu Markowa, X m = (X m (t) : t min t t max ).

12 Nadmiarowa reprezentacja trajektorii Time

13 Nadmiarowa reprezentacja trajektorii Time X(t) State Time

14 Nadmiarowa reprezentacja trajektorii Time X(t) State Time X(t) State Time

15 Reprezentacja trajektorii Nadmiarowa reprezentacja procesu X = (X(t) : t min t t max ): T 1, T 2,..., T N losowe momenty skoków (być może wirtualnych ). S 0, S 1,..., S N szkielet : S i = X(T i ). X(t) = S i 1 dla T i 1 t < T i. T i jest skokiem wirtualnym jeśli S i = S i 1. ( t min T X = 1 T i T N t max ), S 0 S 1 S i S N gdzie N = max{n : T n < 1}.

16 Uniformizacja Niech λ max s Q(s), gdzie Q(s) = s Q(s, s ). T 1, T 2,..., T N jednorodny proces Poissona z intensywnościa λ. S 0, S 1,..., S N jednorodny łańcuch Markowa z prawdopodobieństwami przejścia Q(s, s ) λ P(s, s ) = 1 Q(s) λ jeśli s s (Rzeczywisty skok) jeśli s = s (Wirtualny skok).

17 Algorytm Metropolisa-Hastingsa B. Miasojedow, WN, J. Noble, K. Opalski (2014, 2016). Niech X oznacza nadmiarowa reprezentację trajektorii, π jest rozkładem a posteriori. Krok algorytmu MCMC: X m = X X = X m+1. Generujemy propozycję X q(x, ) i akceptujemy ruch X X z prawdopodobieństwem α(x, X ) = 1 π(x )q(x, X) π(x)q(x, X ). Jeśli akceptujemy, to X = X. Jeśli nie, to X = X. Prawdopodobieństwo akceptacji jest tak dobrane, że π jest rozkładem stacjonarnym.

18 Algorytm Metropolisa-Hastingsa 4 typy ruchów : ChangeTime: T i T i ChangeState: S i S i RemoveJump/AddJump: T = (T 1,..., T i 1, T i, T i+1,..., T N ) T = (T 1,..., T i 1, T i+1,..., T N ). + odpowiednie prawdopodobieństwa akceptacji.

19 Algorytm Rao i Teha V. Rao, Y.W. Teh (2012, 2013). (T, S) = (J, V, S) = (Rzeczywiste skoki, Wirtualne skoki, Szkielet). Próbnik Gibbsa: (T, S) = (J, V, S) (J, V, S) = (T, S) (T, S ).

20 Geometryczna ergodyczność algorytmu Rao-Teha TWIERDZENIE (B. Miasojedow i WN) Załóżmy, że macierz intensywności Q jest nieprzywiedlna i λ > max s Q(s). Wtedy łańcuch X m generowany przez algorytm Rao i Teha jest geometrycznie ergodyczny. Istnieje stała γ < 1 i funkcja M takie, że dla każdego X 0, p(x m X 0 ) π(x) TV γ m M(X 0 ).

21 Geometryczna ergodyczność algorytmu Metropolisa-Hastingsa TWIERDZENIE (B. Miasojedow, WN, J. Noble, K. Opalski) Załóżmy dodatkowo, że inf s s Q(s, s ) δ > 0. Wtedy łańcuch X m generowany przez algorytm Metropolisa-Hastingsa (skonstruowany przez nas) jest geometrycznie ergodyczny. Przykład Niech S = {0, 1, 2, 3, 4}, Q(s, s + 1 mod 5) > 0 i Q(s, s 1 mod 5) > 0, pozostałe intensywności = 0. Łańcuch generowany przez algorytm Metropolisa-Hastingsa nie jest geometrycznie ergodyczny.

22 Geometryczna ergodyczność algorytmu Metropolisa-Hastingsa TWIERDZENIE (B. Miasojedow, WN, J. Noble, K. Opalski) Załóżmy dodatkowo, że inf s s Q(s, s ) δ > 0. Wtedy łańcuch X m generowany przez algorytm Metropolisa-Hastingsa (skonstruowany przez nas) jest geometrycznie ergodyczny. Przykład Niech S = {0, 1, 2, 3, 4}, Q(s, s + 1 mod 5) > 0 i Q(s, s 1 mod 5) > 0, pozostałe intensywności = 0. Łańcuch generowany przez algorytm Metropolisa-Hastingsa nie jest geometrycznie ergodyczny.

23 V. Rao, Y. W. Teh. MCMC for continuous-time discrete-state systems. In Advances in Neural Information Processing Systems, , V. Rao, Y. W. Teh. Fast MCMC sampling for Markov jump processes and extensions. Journal of Machine Learning Research, 14, , B. Miasojedow, W. Niemiro, J. Noble, K. Opalski. Metropolis-type algorithms for Continuous Time Bayesian Networks. arxiv: v1. B. Miasojedow, W. Niemiro. Geometric ergodicity of Rao and Teh s algorithm for homogeneous Markov jump processes. Statistics and Probability Letters 113, 1 6, 2016.