Plan prezentacji. Modelowanie Bayesowskie Zastosowania Metody matematyczne Narzędzia Ocena jakości modeli

Transkrypt

1 Łukasz Czekaj

2 Plan prezentacji Modelowanie Bayesowskie Zastosowania Metody matematyczne Narzędzia Ocena jakości modeli

3 Modelowanie Bayesowskie Budowanie modelu Rozkłady apriori hiperparametry Model generujący dane prawdopodobieństwa warunkowe i struktura przyczynowa P(θ) P(D θ)

4 Modelowanie Bayesowskie Budowanie modelu Rozkłady apriori hiperparametry Model generujący dane prawdopodobieństwa warunkowe i struktura przyczynowa P(θ) P(D θ) Dane D= {d 1,d 2,d 3 } Rozkład aposteriori P(θ D= {d 1,d 2,d 3 })

5 Modelowanie Bayesowski Twierdzenie Bayesa p(θ) = beta(2,2) p(d=t θ) = θ P(θ) P(D θ) lp D 1 H 2 H 3 H

6 Modelowanie Bayesowski Twierdzenie Bayesa P(θ) P(D θ) lp D 1 H 2 H P(θ D)=p(D θ)p(θ)/p(d) p(θ D 1 =H) ~ (1 θ)p(θ) ~ beta(2,3) p(θ D 1 =H, D 2 =H) ~ (1 θ)p(θ D 1 =H) ~ (1 θ) 2 p(θ) ~ beta(2,4) 3 H

7 Modelowanie Bayesowski Twierdzenie Bayesa P(θ) P(D θ) lp D 1 H 2 H 3 H

8 Modelowanie Bayesowski Sieci Bayesowskie Lp D Z MT 1 T F T 2 F F F 3 T F F 4 F T T

9 Modelowanie Bayesowski Sieci Bayesowskie Lp D Z MT 1 T F T 2 F F F 3 T F F 4 F T T Deszcz D F 0.8 T 0.2 D\Z T F F T Zraszacz Mokra trawa Z,D\MT T F F F F T T F T T

10 Modelowanie Bayesowski Sieci Bayesowskie (struktura) Lp D Z MT 1 T F T 2 F F F 3 T F F 4 F T T? Deszcz D F 0.8 T 0.2 Zraszacz Model Z,D\MT T F D\Z T F F T Mokra trawa F F F T T F T T

11 Modelowanie Bayesowski Sieci Bayesowskie (parametry) Lp D Z MT 1 T F T 2 F F F 3 T F F 4 F T T Deszcz Prawdopodobieństwa apriori D F 0.8 T 0.2? Prawdopodobieństwa warunkowe D\Z T F F T ? Zraszacz Mokra trawa Z,D\MT T F F F F T T F T T

12 Modelowanie Bayesowski Sieci Bayesowskie (zmienne ukryte) Lp D Z MT 1 T F T 2 F F F 3 T F F 4 F T T Deszcz D F 0.8 T 0.2 Obserwowalność? D\Z T F F T Zraszacz Mokra trawa Z,D\MT T F F F F T T F T T

13 Modelowanie Bayesowski Definicja i własności DAG (skierowany graf acykliczny) Prawdopodobieństwo łączne ma własność faktoryzacji p(tm,z,d) = p(tm Z,D) p(z D)p(D) Warunkowa niezależność p(a & B W) = p(a W)p(B W) W A B

14 Modelowanie Bayesowskie Rozkłady apriori Interpretacja Populacja możliwych parametrów z którego pochodzą obecne wartości Stan wiedzy o parametrach

15 Modelowanie Bayesowskie Rozkłady apriori Nieinformatwne Reprezentuje brak informacji o parametrze Niezmienniczość względem reparametryzacji (zasada nierozróżnialności) Jeffreys Prior rozkład płaski, problem dla dużych wymiarów, rozkład normalny: p(μ, σ 2 )~1/ σ 3 Reference Prior maksymalna odległość między a priori i a posteriori, rozkład normalny: p(μ, σ 2 )~1/ σ 4 Informatywne Kodujemy naszą wiedze z poprzednich doświadczeń, wiedzę dziedzinową

16 Modelowanie Bayesowski Problem niemieckich czołgów Załóżmy, że przejęto 4 czołgi o numerach seryjnych 10, 256, 202 i 97. Zakładając, że czołgi są numerowane w kolejności w jakiej schodzą z taśmy produkcyjnej, ile jest obecnie czołgów? P(maxN) ~ DUnif(maxY,10000) P(Y maxn) ~ DUnif(0,maxN) Think Bayes: Bayesian Statistics in Python, Allen B. Downey

17 Modelowanie Bayesowski Problem niemieckich czołgów

18 Modelowanie Bayesowski Problem niemieckich czołgów

19 Modelowanie Bayesowski Punkt przełączenia Wypadki w kopalniach w latach devs.github.io/pymc/tutorial.html

20 Modelowanie Bayesowski Punkt przełączenia s e l r t D t D t ~ Poisson(r t ) r t < t > s? l : e s ~ Dunif(t l,t h ) e ~ Exponential(r e ) l ~ Exponential(r l )

21 Modelowanie Bayesowski Punkt przełączenia

22 Modelowanie Bayesowski Punkt przełączenia

23 Modelowanie Bayesowski Regesja liniowa regularyzacja przez rozkłady apriori β 0 uogólnione modele liniowe przez modyfikację p. warunkowego β 1 Norm(β 0 + β 1 x i, σ) y i σ

24 Modelowanie Bayesowski Regesja liniowa

25 Modelowanie Bayesowski Regesja liniowa

26 Modelowanie Bayesowski Regesja liniowa Nieinformatywne rozkłady apriori Informatywne rozkłady apriori dla β (μ= 1, τ=100) Regularyzacja przez rozkłady apriori: Lasso (laplace priors), elastic net

27 Modelowanie Bayesowski Modele hierarchiczne Modelowanie trwałości pamięci jak zapominamy z czasem? Grupa osób miała do zapamiętania 18 jednostek informacji Każda osoba była testowana podczas 10 sesji Model wykładniczego zaniku Bayesian Cognitive Modeling: A Practical Course, Michael D. Lee, Eric Jan Wagenmakers

28 Modelowanie Bayesowski Modele hierarchiczne współczynniki dla grupy współczynniki indywidualne

29 Modelowanie Bayesowski Modele hierarchiczne

32 Zastosowania Wykrywanie halo ciemnej materii dark worlds/

33 Zastosowania Wyktywanie halo ciemnej materii Dane: galaktyk na zdjęcie dla każdej galaktyki (x,y,e1,e2) Na każdym zdjęciu 1 3 halo; określić masę i położenie halo P(loc h,mass h loc g,e g ) Model generujący dane:

34 Zastosowania Wyktywanie halo ciemnej materii

35 Zastosowania Analiza strat w sieci transportowej n 1 V 1,t n 2 Wz\sg 0,1 1,2 1,3 0,4 n n d 1,2,t =F 1,2,t δ 1,2 n 0 V 0,t n 4 n 3 Dane: V,A, niektóre f Równanie bilansu dla węzła: V+d=Af Straty w węźle (proporcjonalne do przepływu): d = A + (δ.f) Założenia: f > 0, 1 > δ > 0, δ stałe w t

36 Zastosowania Analiza strat w sieci transportowej

37 Kiedy stosować modele Bayesowskie? Dysponujemy wiedzą o rozkładzie hiperparametrów, którą chcemy uwzględnić w modelu (np. współczynniki w regresji liniowej mogą przyjmować tylko wartości dodatnie, wyniki wcześniejszych eksperymentów) Złożona fizyka procesu; łatwo uwzględnić w modelu złożone transformacje, przekształcenia matematyczne, zależności hierarchiczne, zmienność w czasie (np. modele dynamiczne) Model korzysta z niestandardowych rozkładów prawdopodobieństwa Interesuje nas ocena niepewności otrzymanych wyników (np. rankingowanie, ocena ryzyka); rozkład prawdopodobieństwa vs przedział ufności;

38 Wyznaczanie rozkładów aposteriori Sprzężone rozkłady apriori Metody wariacyjne Samplowanie z rozkładów aposteriori P(θ {d i }) (monte carlo markov chain) Samplowane Gibbsa Samplowanie Metropolis Hastings Samplowanie Hamiltonowskie Information Theory, Inference and Learning Algorithms, David J. C. MacKay

39 Wyznaczanie rozkładów aposteriori Sprzężone rozkłady apriori Metoda analityczna rozkład generujący dane (samplowanie) rozkład apriori hiperparametrów A priori: p(p) = β(a,b) Rozkład generujący: p(x n,p) = Bernouli(x,n,p) A posteriori: p(p x,n) = β(a+x,b+n x)

40 Wyznaczanie rozkładów aposteriori Metody wariacyjne Aproksymacja analityczna faktoryzacja rozkładów hiperametrów P(Z) P(X Z) X= {x 1,x 2,x 3 } D KL (Q P) P(Z X= {x 1,x 2,x 3 }) Q θ (Z) θ

41 Wyznaczanie rozkładów aposteriori MCMC

42 Wyznaczanie rozkładów aposteriori MCMC P({θ i } {d i }) ~ P({θ i },{d i }) {θ i } t+1 = T({θ i } t ) Dla t > T, {θ i } t ~ P({θ i } {d i }) wypalanie rozkład stacjonarny

43 Wyznaczanie rozkładów aposteriori MCMC Wypalanie, rozkład stacjonarny, zbieżność

44 Wyznaczanie rozkładów aposteriori MCMC Autokorelacje (thinning)

45 Wyznaczanie rozkładów aposteriori MCMC Mieszanie i bistabilność

48 Wyznaczanie rozkładów aposteriori Samplowanie Gibbsa P(θ 1, θ 2 {d i }) = P(θ 1 θ 2,{d i }) P(θ 2 {d i }) Ustalamy wartości początkowe i θ 10, θ 20, samplujemy naprzemiennie: θ t+1 1 ~P(θ t+1 1 θ 2t {d i }) θ t+1 2 ~P(θ t+1 2 θ 1t {d i }) Zakładamy, że łatwo wygenerować P(θ 1 θ 2,{d i }); rozkłady sprzężone, modele DAC

49 Wyznaczanie rozkładów aposteriori Samplowanie Gibbsa

50 Wyznaczanie rozkładów aposteriori Nie umiemy generować próbek z rozkładu P(θ 1 θ 2,{d i }); Umiemy generować kandydatów {θ i }. Umiemy policzyć funkcję g({θ i })~p({θ i } {d i }) Algorytm: Samplowanie Metropolis Hastings Inicjalizacja (wybieramy losowy punkt {θ i } 0 ) Generowanie kandydata {θ i } Akceptacja kandydata {θ i } t+1 ={θ i } z prawdopodobieństwem max(1, g({θ i } )/g({θ i } t )), w przeciwnym razie odrzucamy kandydata i pozostajemy z {θ i } t+1 ={θ i } t

51 Narzędzia JAGS/WinBUGS (from R via R2jags/R2WinBugs) STAN PyMC PyMC3 Infer.NET

52 JAGS opis modelu/składnia Definicja model { #komentarz } Węzły/zmienne zmienne stochastyczne x ~ dnorm(0,1) zmienne deterministyczne Y < ifelse(x>0,1,0)

53 JAGS tablice Indeksowanie i pętle for( i in 1:N) { Y[i] ~ dnorm(0,1) } Tablice wielowymiarowe Y[i,j],Y[i,],Y[,j],Y[i,1:10] Długość tablicy length(y), wymiary dim(y) (to trzeba wrzucić do bloku danych) for( i in 1:length(Y))...

54 JAGS operacje wbudowane, funkcje Operatory logiczne Operatory arytmetyczne log,exp,step,ifelse, round min,max,sum,mean, sort,rank,order,inverse,transpose interp.lin

55 JAGS rozkłady generujące dbeta,dexp,dnorm, dunif dbern,dbin, dcat ddirch, dmnorm Obcinanie rozkładów T(L,U) dnorm(0,1)t(0,)

56 JAGS dane Dane: stałe oraz zmienne stochastyczne, dane dla zmiennych deterministycznych generują błąd Brak danych NA data { } Y< c(1,na,2,3,4) mu< 5.1

57 JAGS JAGS w R: R2jags R jako frontend dla JAGS definiowanie modelu dostarczanie danych sterowanie wykonaniem przetwarzanie wyników

58 JAGS JAGS via R: R2jags R jako frontend dla JAGS definiowanie modelu dostarczanie danych

59 JAGS JAGS via R: R2jags R jako frontend dla JAGS sterowanie wykonaniem (jags, jags.parallel)

60 JAGS JAGS via R: R2jags R jako frontend dla JAGS przetwarzanie wyników: print(model)

61 JAGS JAGS via R: R2jags R jako frontend dla JAGS przetwarzanie wyników: plot(model), traceplot(model)

62 JAGS JAGS via R: R2jags R jako frontend dla JAGS qplot(themodelsim1$bugsoutput$sims.list$maxn,geom = "histogram")

63 JAGS etapy wykonywania modelu Kompilacja (błędy) Graf zawiera cykle Brak parametrów (nazwy niezdeklarowane są traktowane jako stałe/dane) Błędy w nazwach funkcji, rozkładów Niewłaściwy format paramtru (np. tabela gdy oczekiwany jest skalar) Inicjalizacja Wartości parametrów Generatory liczb losowych, samplery Adaptacja samplerów i burn in Monitoring

64 Ocena jakości modeli (CODA) Testowanie zbieżność Efektywny rozmiar próbki i błąd średnich Ocena jakości modelu, poziom dopasowania Bayesian Modeling Using WinBUGS, IoannisNtzoufras Bayesian Data Analysis, Andrew Gelman and John B. Carlin

65 Ocena jakości modeli (CODA) Autokorelacje, mieszanie, inspekcja wizualna

68 Ocena jakości modeli (CODA) Test Geweke średnie z dwóch nie przecinających się części łańcucha (pierwsze 0.1 i ostanie 0.5 łańcucha) nie powinny się różnić statystycznie (Z score) Analogicznie możemy porównywać histogramy/qqplot

69 Ocena jakości modeli (CODA) Gelman Rubin m łańcuchów, n próbek Test ANOVA (wariancja między łańcuchami do wariancji wewnątrz łańcuchów), Rhat < 1.1

70 Ocena jakości modeli (CODA) Efektywny rozmiar próbki n eff = n/(1+(n 1)ρ) Dokładność średnich s e = s m /sqrt(n) n eff ~ 400

71 Ocena jakości modeli (CODA) Korelacje wzajemne między parametrami

72 Ocena jakości modeli (CODA) DIC Deviance (czy dane pasują do modelu, wyznaczane dla rozkładu aposteriori): D(θ)= 2 log p(y θ); Kryterium informacyjne (DIC kwadratowe przybliżenie D(θ) ): Efektywna liczba parametrów p D (w sensie AIC)

73 Ocena jakości modeli (CODA) Predictive distriubtion Generowanie danych przy użyciu dopasowanego modelu, rozkład aposteriori dla prognozy: Rozbieżność, Bayesian p value Wartości odstające, cross validation

74 Ocena jakości modeli Wykrywanie wartości odstających