SZTUCZNA INTELIGENCJA

Transkrypt

1 SZTUCZNA INTELIGENCJA WYKŁAD 17. ALGORYTMY EWOLUCYJNE Częstochowa 2014 Dr hab. inż. Grzegorz Dudek Wydział Elektryczny Politechnika Częstochowska

2 KODOWANIE BINARNE Problem różnych struktur przestrzeni fenotypu i genotypu x NKB Gray

3 KODOWANIE BINARNE Nieregularny charakter mutacji x' x , , , , , , , , , 5 3

4 KODOWANIE BINARNE Nieregularny charakter krzyżowania x a ', x b ' x a, x b , [11, 4], [5, 11] , [13, 11], [3, 4] , [9, 11], [7, 4] , [11, 11], [5, 4] , [11, 11], [5, 4] , [11, 3], [5, 12] , [11, 7], [5, 8] , [11, 5], [5, 10] 4

5 KRZYŻOWANIE JEDNORODNE Krzyżowanie jednorodne Wzorzec dziedziczenia: Wzorzec Rodzic Rodzic Potomek Potomek

6 KRZYŻOWANIE JEDNORODNE Stopień mieszania s [0, 0,5] Tworzenie wzorca dziedziczenia: Dla każdego bitu wzorca losujemy liczbę rzeczywistą [0, 1] Jeśli i s, to bit ustawiamy na 0. W przeciwnym przypadku na 1 Stopień mieszania s 0,1 0,25 0,5 Wylosowany wzorzec Rodzic Rodzic Potomek Potomek

7 ALGORYTMY EWOLUCYJNE Z REPREZENTACJĄ NA LICZBACH RZECZYWISTYCH Chromosom ma postać wektora liczb rzeczywistych: x' = x x = [x 1, x 2,..., x n ], x i R 7

8 AE Z REPREZENTACJĄ NA LICZBACH RZECZYWISTYCH Schemat algorytmu ewolucyjnego (AE) 8

9 AE Z REPREZENTACJĄ NA LICZBACH RZECZYWISTYCH Krzyżowanie uśredniające Osobniki rodzicielskie: x a = [x a1, x a2,..., x an ] x b = [x b1, x b2,..., x bn ] Osobniki potomne: x a ax a + (1 a)x b x b (1 a)x a + ax b gdzie a liczba rzeczywistą wylosowana z [0, 1], a U(0, 1) 9

10 AE Z REPREZENTACJĄ NA LICZBACH RZECZYWISTYCH Krzyżowanie uśredniające Przykład: x a ax a + (1 a)x b x b (1 a)x a + ax b a 0,1 0,5 0,9 Rodzic 1 [ 4,06, -3,73, 4,13, 1,32] [ 4,06, -3,73, 4,13, 1,32] [ 4,06, -3,73, 4,13, 1,32] Rodzic 2 [-4,02, -2,22, 0,47, 4,58] [-4,02, -2,22, 0,47, 4,58] [-4,02, -2,22, 0,47, 4,58] Potomek 1 [-3,22, -2,37, 0,84, 4,25] [0,02, -2,97, 2,30, 2,95] [ 3,25, -3,58, 3,77, 1,65] Potomek 2 [ 3,25, -3,58, 3,77, 1,65] [0,02, -2,97, 2,30, 2,95] [-3,22, -2,37, 0,84, 4,25] 10

11 AE Z REPREZENTACJĄ NA LICZBACH RZECZYWISTYCH Krzyżowanie uśredniające x a = [11, 4] x b = [5, 11] 11

12 AE Z REPREZENTACJĄ NA LICZBACH RZECZYWISTYCH Mutacja x x + gdzie = [ 1, 2,..., n ], i N(0, ) 12

13 STRATEGIE EWOLUCYJNE Osobnik o = (x,, f(x)) x = [x 1, x 2,..., x n ], x i R = [ 1, 2,..., n ], i R + 13

14 STRATEGIE EWOLUCYJNE Algorytm Procedura SE(/+) begin i:=0 Inicjalizacja P i:= {(x l, l,f(x l)), l=1,2,,} while (not warunek stopu) do begin for j:=1 to do begin R j:= Rodzice(P i,) (x j, j):= Rekombinacja(R j) j':= Mutacja_( j) x j':= Mutacja_x(x j) f j':=f j(x j') end Q i:= {(x j', j',f j'),j=1,2,,} P i+1:= Selekcja(P i,q i) i:=i+1 end end Beyer H.G., Schwefel H.P.: Evolution Strategies - A comprehensive introduction. Natural Computing 1, pp. 3-52,

15 15 Rekombinacja Krzyżowanie dyskretne } {1,2,...,, 1,2,...,,, rand r n k x x r k k r k k Krzyżowanie uśredniające n k x x r r k k r r k k,... 1,2, 1, STRATEGIE EWOLUCYJNE

16 STRATEGIE EWOLUCYJNE Mutacja Mutacja : σ [,,..., ] ' n n gdzie: N(0, ) i ~ e, ~ e N 0, ) ( 0 c c, 0, 2 n 2n Mutacja x: x' = x + gdzie: = [ 1, 2,..., n ], i N(0, i ') 16

17 EWOLUCJA RÓŻNICOWA Storn R., Price K.: Differential Evolution A Simple and Efficient Heuristic for Global Optimization over Continuous Spaces. Journal of Global Optimization 11 (4), pp ,

18 EWOLUCJA RÓŻNICOWA Mutacja mi x j F( xk xl ) j, k, l = rand({1, 2,, N}\i ) F [0, 2] 18

19 EWOLUCJA RÓŻNICOWA Krzyżowanie x' i, j m x i, j i, j,, jeśli jeśli i, j i, j CRlub j CRi j i i gdzie: j = 1, 2,..., n i,j ~ U(0,1) i = rand{1, 2,, n} CR [0, 1] 19

20 OPTYMALIZACJA ROJEM CZĄSTEK Eberhart R. C., Shi Y. H.: Particle swarm optimization: Developments, applications and resources. Proc. IEEE Congr. Evol. Comput., pp ,

21 OPTYMALIZACJA ROJEM CZĄSTEK Wyznaczenie prędkości cząstek * ** vi c vi i ( xi x i ) i ( x x 0 i gdzie: * x i najlepsze rozwiązanie znalezione przez i-tą cząstkę ** x najlepsze rozwiązanie znalezione przez rój i U(0, c 1 ) i U(0, c 2 ) c 0, c 1, c 2 > 0 Wyznaczenie pozycji cząstek ) x i x i v i 21

22 PRZESZUKIWANIE TURNIEJOWE Dudek G.: Tournament searching method to feature selection problem. ICAISC 2010, Springer LNCS 6114, pp , 2010 Dudek G.: Tournament Searching Method for Optimization of the Forecasting Model Based on the Nadaraya-Watson Estimator. ICAISC 2014, Springer LNAI 8468, pp ,

23 PRZESZUKIWANIE TURNIEJOWE PRZESZUKIWANIE TURNIEJOWE Mutacja Reprezentacja binarna tworzymy L klonów osobnika rodzicielskiego w każdym klonie zmieniamy jeden wybrany losowo bit (w każdym klonie inny) Reprezentacja na liczbach rzeczywistych tworzymy L osobników potomnych poprzez mutację osobnika rodzicielskiego x r x i = x r + i gdzie: i = 1, 2,..., L i = [ i,1, i,2,..., i,n ], i,j N(0, ) 23

24 PRZESZUKIWANIE TURNIEJOWE PRZESZUKIWANIE TURNIEJOWE Turniej wybieramy osobnika potomnego z najwyższą oceną zwycięzca turnieju staje się rodzicem w następnej iteracji 24