Sztuczna Inteligencja i Systemy Doradcze

Transkrypt

1 Sztuczna Inteligencja i Systemy Doradcze Sieci bayessowskie 2 Sieci bayessowskie 2 1

2 Rodzaje zadan dla sieci bayessowskiej Zapytania proste: oblicz brzegową wartość warunkową P(X i E =e) np. P(NoGas Gauge =empty, Lights = on,starts =false) Zapytania koniunkcyjne: P(X i, X j E =e) = P(X i E =e)p(x j X i,e=e) Decyzje optymalizacyjne: sieć zawiera informację o użyteczności; np. wnioskowanie probabilistyczne dla P(outcome action, evidence) Wartość informacji: która przesłankę sprawdzić jako następną? Analiza wrażliwości: które wartości prawdopodobieństwa są najbardziej krytyczne? Wyjaśnienie: Dlaczego potrzebuję nowego rozrusznika? Sieci bayessowskie 2 2

3 Wnioskowanie w sieci bayesowskiej Wnioskowanie dokładne Przez wyliczanie wartości Przez eliminację zmiennych Wnioskowanie aproksymacyjne Przez symulację stochastyczną metodą Monte arlo z łancucha Markowa Sieci bayessowskie 2 3

4 Wnioskowanie przez wyliczanie wartosci Sumowanie iloczynów z prawdopodobieństw brzegowych bez faktycznego konstruowania ich jawnej reprezentacji, przy użyciu prawdopodobieństw warunkowych z sieci bayessowskiej Proste zapytanie w sieci z alarmem domowym: P(B j, m) = P(B, j, m)/p(j, m) = αp(b, j, m) = ασ e Σ a P(B,e, a, j, m) B J A E M Przechodząc po zmiennych w kolejności zgodnej z siecią (np. B,E, A, J, M) wyciągamy sumowanie po kolejnych zmiennych na zewnąrz wyrażenia i używamy wartości prawdopodobieństw z tablic PW: P(B j, m) = ασ e Σ a P(B)P(e)P(a B,e)P(j a)p(m a) = αp(b)σ e P(e)Σ a P(a B,e)P(j a)p(m a) Sieci bayessowskie 2 4

5 Wyliczanie wartosci: algorytm function Enumeration-Ask(X,e,bn) returns a distribution over X inputs: X, the query variable e, observed values for variables E bn, a Bayesian network with variables {X} E Y Q(X ) a distribution over X, initially empty for each value x i of X do extend e with value x i for X Q(x i ) Enumerate-All(Vars[bn],e) return Normalize(Q(X)) function Enumerate-All(vars,e) returns a real number if Empty?(vars) then return 1.0 Y irst(vars) if Y has value y in e then return P(y P arent(y )) Enumerate-All(Rest(vars), e) else return Σ y P(y Parent(Y )) Enumerate-All(Rest(vars),e y ) where e y is e extended with Y = y Sieci bayessowskie 2 5

6 Wyliczanie wartosci: dzialanie P(b).001 P(e).002 P( e).998 P(a b,e) P( a b,e) P(a b, e) P( a b, e) P(j a) P(j a).05 P(j a) P(j a).05 P(m a) P(m a) P(m a) P(m a) Rekurencyjne wyliczanie zmiennych w głąb sieci: O(n) pamięci, O(d n ) czasu Sieci bayessowskie 2 6

7 Wyliczanie wartosci: dzialanie P(b).001 P(e).002 P( e).998 P(a b,e) P( a b,e) P(a b, e) P( a b, e) P(j a) P(j a).05 P(j a) P(j a).05 P(m a) P(m a) P(m a) P(m a) Wyliczanie jest nieefektywne: powtarza obliczenia np. liczy P(j a)p(m a) dla każdej wartości e Sieci bayessowskie 2 7

8 Wnioskowanie przez eliminacje zmiennych Eliminacja zmiennych: wykonuje sumowanie z prawej do lewej, pamięta wyniki pośrednie (czynniki) w celu uniknięcia powtórzeń P(B j, m) = αp(b) } {{ } B f M (A) = Σ e P(e) }{{} E Σ a P(a B,e) }{{} A P(j a) } {{ } J = αp(b)σ e P(e)Σ a P(a B, e)p(j a)f M (a) = αp(b)σ e P(e)Σ a P(a B, e)f JM (a) = αp(b)σ e P(e)f ĀJM (b, e) = αp(b)f ĒĀJM (b) = αf B (b) f ĒĀJM (b) P(m a) P(m a) P(m a) } {{ } M, f JM (A) = f J (A) f M (A) = f A (A, B,E) jest macierzą dla wszystkich wartości A, B, E f ĀJM (B, E) = f A (a, B, E) f JM (a) + f A ( a, B, E) f JM ( a) f ĒĀJM (B, E) = f E (e) f ĀJM (B, e) + f E ( e) f ĀJM (B, e) P(j a)p(m a) P(j a)p(m a) Sieci bayessowskie 2 8

9 Eliminacja zmiennych: algorytm function Elimination-Ask(X,e,bn) returns a distribution over X inputs: X, the query variable e, evidence specified as an event bn, a belief network specifying joint distribution P(X 1,..., X n ) factors [ ]; vars Reverse(Vars[bn]) for each var in vars do factors [Make-actor(var, e) factors] if var is a hidden variable then factors Sum-Out(var, factors) return Normalize(Pointwise-Product(factors)) Sieci bayessowskie 2 9

10 Eliminacja zmiennych: zmienne nieistotne Rozważmy zapytanie P(Johnalls Burglary = true) P(J b) = αp(b)σ e P(e)Σ a P(a b,e)p(j a)σ m P(m a) Suma po m jest równa 1; M jest nieistotne dla zapytania Można pominąć sumowanie po zmiennych nieistotnych B J A E M w 1: Y jest nieistotne jeśli Y Ancestors({X} E) utaj X = Johnalls, E = {Burglary}, i Ancestors({X} E) = {Alarm, Earthquake} więc M jest nieistotne Sieci bayessowskie 2 10

11 Eliminacja zmiennych: zmienne nieistotne Def: moralny graf sieci bayessowskiej (nieskierowany): zawiera krawędzie z oryginalnej sieci bez kierunku oraz krawędzie pomiędzy każdą parą rodziców mającą wspólne dziecko Def: A jest m-odseparowane od B przez wtw gdy jest odseparowane przez w grafie moralnym w 2: Y jest nieistotne jeśli jest m-odseparowane od X przez E B E Dla P(Johnalls Alarm = true), obie Burglary i Earthquake są nieistotne J A M Sieci bayessowskie 2 11

12 L L L L Zlozonosc dokladnego wnioskowania Sieci pojedynczych połączeń (polidrzewa): każde dwa wierzchołki połączone są co najwyżej jedną ścieżką złożoność czasowa i pamięciowa algorytmu eliminacji zmiennych O(d k n) Sieci wielokrotnych połączeń: można zredukować 3SA do dokładnego wnioskowania NP-trudne równoważne zliczaniu modeli 3SA #P-zupełne A B D 1. A v B v 2. v D v A B v v D AND Sieci bayessowskie 2 12

13 Wnioskowanie przez symulacje stochastyczna Podstawowy pomysł: 1) Losuj N próbek z rozkładem próbkowym S 2) Oblicz aproksymacyjne prawdopodobieństwo wynikowe ˆP 3) Udowodnij zbieżność do prawdopodobieństwa faktycznego P Wnioskowanie stochastyczne bezwarunkowe (bez przesłanek): Próbkowanie bezpośrednie 0.5 oin Wnioskowanie stochastyczne warunkowe (z przesłankami): Próbkowanie z odrzucaniem: odrzuca próbki niezgodne z przesłankami Ważenie prawdopodobieństwa próbek: używa przesłanek do ważenia prawdopodobieństwa próbek Monte arlo z łancucha Markowa (MM): próbkuje z procesu stochastycznego, w którym proawdopodobieństo stacjonarne jest rzeczywistym prawdopodobieństwem warunkowym Sieci bayessowskie 2 13

14 Probkowanie bezposrednie function Direct-Sampling(X, bn, N) returns an estimate of P(X) local variables: N, a vector of counts over X, initially zero for j = 1 to N do x Prior-Sample(bn) N[x] N[x]+1 where x is the value of X in x return Normalize(N[X]) function Prior-Sample(bn) returns an event sampled from bn inputs: bn, a belief network specifying joint distribution P(X 1,..., X n ) x an event with n elements for i = 1 to n do x i a random sample from P(X i Parents(X i )) return x Sieci bayessowskie 2 14

15 Probkowanie bezposrednie: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) Sieci bayessowskie 2 15

16 Probkowanie bezposrednie: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) Sieci bayessowskie 2 16

17 Probkowanie bezposrednie: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) Sieci bayessowskie 2 17

18 Probkowanie bezposrednie: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) Sieci bayessowskie 2 18

19 Probkowanie bezposrednie: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) Sieci bayessowskie 2 19

20 Probkowanie bezposrednie: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) Sieci bayessowskie 2 20

21 Probkowanie bezposrednie: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) Sieci bayessowskie 2 21

22 Probkowanie bezposrednie: wlasnosci Prawdopodobieństwo, że PriorSample generuje dane zdarzenie S PS (x 1... x n ) = Π n i = 1P(x i Parents(X i )) = P(x 1... x n ) to odpowiada prawdopodobieństwu faktycznemu tego zdarzenia Np. S PS (t, f, t, t) = = = P(t, f, t, t) N PS (x 1... x n ) liczbą próbek wygenerowanych dla zdarzenia x 1,..., x n Wtedy lim N ˆP(x 1,..., x n ) = lim N N PS(x 1,..., x n )/N = S PS (x 1,..., x n ) = P(x 1... x n ) Powyższą własność algorytmu DirectSampling nazywamy spójnością Notacja: ˆP(x1,..., x n ) P(x 1... x n ) Sieci bayessowskie 2 22

23 Probkowanie z odrzucaniem ˆP(X e) szacowane z próbek zgodnych z przesłankami e function Rejection-Sampling(X, e, bn, N) returns an estimate of P(X e) local variables: N, a vector of counts over X, initially zero for j = 1 to N do x Prior-Sample(bn) if x is consistent with e then N[x] N[x]+1 where x is the value of X in x return Normalize(N[X]) Np. oszacowanie P( = true) przy użyciu 100 próbek 27 próbek ma = true Z tego, 8 ma =true i 19 ma =false. ˆP( = true) = Normalize( 8, 19 ) = 0.296, Sieci bayessowskie 2 23

24 Probkowanie z odrzucaniem: wlasnosci ˆP(X e) = αn PS (X,e) (wynik algorytmu RejectionSampling) = N PS (X,e)/N PS (e) (normalizowane przez N PS (e)) P(X, e)/p(e) (własność PriorSample) = P(X e) (prawdopodobieństwo faktyczne) Zatem próbkowanie z odrzucaniem ma własność spójności tzn. oszacowanie zbiega do faktycznego prawdopodbieństwa warunkowego Problem: bardzo kosztowne jeśli P(e) jest małe P(e) rozpada się wykładniczo wraz z liczbą zmiennych! Sieci bayessowskie 2 24

25 Wazenie prawdopodobienstwa probek Pomysł: ustala zmienne z przesłanek, próbkuje tylko zmienna spoza przesłanek, i waży prawdopodobieństwo każdej próbki stosownie do przesłanek function Likelihood-Weighting(X, e, bn, N) returns an estimate of P(X e) local variables: W, a vector of weighted counts over X, initially zero for j = 1 to N do x, w Weighted-Sample(bn) W[x] W[x] + w where x is the value of X in x return Normalize(W[X ]) function Weighted-Sample(bn,e) returns an event and a weight x an event with n elements; w 1 for i = 1 to n do if X i has a value x i in e then w w P(X i = x i Parents(X i )) else x i a random sample from P(X i Parents(X i )) return x, w Sieci bayessowskie 2 25

26 Wazenie prawdopodobienstwa probek: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) w = 1.0 Sieci bayessowskie 2 26

27 Wazenie prawdopodobienstwa probek: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) w = 1.0 Sieci bayessowskie 2 27

28 Wazenie prawdopodobienstwa probek: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) w = 1.0 Sieci bayessowskie 2 28

29 Wazenie prawdopodobienstwa probek: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) w = Sieci bayessowskie 2 29

30 Wazenie prawdopodobienstwa probek: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) w = Sieci bayessowskie 2 30

31 Wazenie prawdopodobienstwa probek: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) w = Sieci bayessowskie 2 31

32 Wazenie prawdopodobienstwa probek: przyklad P() loudy P(S ).10 P(R ) S R P(W S,R) w = = Sieci bayessowskie 2 32

33 Wazenie prawdopodobienstwa probek: wlasnosci Prawdopodobieństwo próbki ważonej WeightedSample wynosi S WS (z,e) = Π l i = 1P(z i Parents(Z i )) Uwaga: S WS uwzględnia tylko przesłanki z przodków z i daje prawdopodobieństwo pośrednie pomiędzy prawdopodobieństwem a priori i a posteriori loudy Waga dla danej próbki z,e wynosi w(z,e) = Π m i = 1P(e i Parents(E i )) Ważone prawdopodobieństwo próbkowe: S WS (z,e)w(z,e) = Π l i = 1P(z i Parents(Z i )) Π m i = 1P(e i Parents(E i )) = P(z,e) (ze standardowej, globalnej semantyki sieci) Stąd ważenie prawdopodobieństwa też ma własność spójności ale efektywność nadal maleje przy dużej liczbie przesłanek ponieważ bardzo mało próbek ma dużą wagę Sieci bayessowskie 2 33

34 Monte arlo dla lancucha Markowa Stan sieci: bieżące przypisanie wszystkich zmiennych Łańcuch Markowa: ciąg stanów sieci, następny stan jest generowany poprzez próbkowanie jednej zmiennej nie będącej przesłanką na podstawie jej koca Markowa function MM-Ask(X, e, bn, N) returns an estimate of P(X e) local variables: N[X ], a vector of counts over X, initially zero Z, the nonevidence variables in bn x, the current state of the network, initially copied from e initialize x with random values for the variables in Y for j = 1 to N do N[x] N[x] + 1 where x is the value of X in x for each Z i in Z do sample the value of Z i in x from P(Z i MB(Z i )) given the values of MB(Z i ) in x return Normalize(N[X ]) Sieci bayessowskie 2 34

35 Koc Markowa Każdy węzeł jest warunkowo niezależny od wszystkich pozostałych przy danym jego kocu Markowa: rodzice + dzieci + inni rodzice dzieci U 1... U m Z 1j X Z nj Y 1... Y n Sieci bayessowskie 2 35

36 Koc Markowa: przyklad Koc Markowa dla loudy: i Koc Markowa dla : loudy, i loudy Prawdopodobieństwo warunkowe przy danym kocu Markowa: P(x i MB(X i )) = P(x i Parents(X i ))Π Zj hildren(x i )P(z j Parents(Z j )) Sieci bayessowskie 2 36

37 Lancuch Markowa Przy przesłankach = true, W et = true łancuch Markowa zawiera 4 stany: loudy loudy loudy loudy Sieci bayessowskie 2 37

38 Monte arlo dla lancucha Markowa: przyklad Szacowanie P( = true, W et = true) Algorytm powtarza próbkowanie zmiennych loudy i na podstawie ich koca Markowa. Zlicza, ile razy było true i false w kolejnych stanach sieci. Np. odwiedza 100 stanów 31 ma = true, 69 ma =false ˆP( = true, W et = true) = Normalize( 31, 69 ) = 0.31, 0.69 Sieci bayessowskie 2 38

39 Monte arlo dla lancucha Markowa: wlasnosci wierdzenie: łańcuch zbiega do rozkładu stacjonarnego ( spójność): proporcja czasu spędzonego w danym stanie w czasie długiego działania sieci jest dokładnie propocjonalna do faktycznego prawdopodobieństwa warunkowego Zalety Metoda nie jest wrażliwa na topologię sieci Można stosować do zmiennych dyskretnych i ciągłych Wady Zbieżność może być wolna rudno określić moment, w którym algorytm daje już bliskie rozwiązanie Może być czasowo rozrzutny, jeśli występują duże koce Markowa: P(X i MB(X i )) nie zmienia się dużo (Prawo Wielkich Liczb) a jest liczone za każdym razem Sieci bayessowskie 2 39