OBLICZENIA EWOLUCYJNE

Transkrypt

1 1 OBLICZENIA EWOLUCYJNE FITNESS F. START COMPUTATION FITNESS F. COMPUTATION INITIAL SUBPOPULATION SENDING CHROM. TO COMPUTERS chromosome AND RECEIVING FITNESS F. VALUE fitness f. value wykład 2 FITNESS F. communication COMPUTATION with other subpopulations EVOLUTIONARY OPERATORS MIGRATION PHASE SELECTION YES TERMINATION CONDITION NO END

2 Karol Darwin (1859 On the origin of species ): Na świat przychodzi dużo więcej potomstwa, niż może pomieści cić środowisko. Przeżywaj ywają nieliczni,, ale za to najlepsi (selekcja naturalna). Ewolucja przez dobór r naturalny oznacza, że przeżywaj ywają i rozmnażaj ają się osobniki najlepiej przystosowane do warunków środowiska. Wynik przystosowania zależy y od: - organizmu; - środowiska. 2

3 3 Gregor Johann Mendel ( ) 1884) - austriacki zakonnik, augustianin, prekursor genetyki. Sformułowa ował podstawowe prawa dziedziczenia (3( prawa Mendla), przeprowadzając c badania nad krzyżowaniem roślin, głównie g grochu jadalnego.

4 Główne czynniki wpływaj ywające na ewolucję: Dziedziczność organizmy dziedziczą cechy swoich przodków, zgodnie z zasadami genetyki. Zmienność dziedziczność nie jest absolutnie dokładna: wprowadza przypadkowe (mutacje). Ponadto źródłami zmienności są: s : rekombinacja i poziomy transfer genów. Ograniczone zasoby konieczność konkurencji organizmów w o te same zasoby środowiska. Przystosowanie niektóre cechy sąs korzystniejsze w danym środowisku niż inne (ułatwiaj( atwiają konkurencję o zasoby). Różnicowa przeżywalno ywalność osobniki o wyższym przystosowaniu mają większe szanse przeżycia i tym samym wydania na świat potomstwa. 4

5 Równanie Price a: George R. Price ( ) 1975) amer. naukowiec, znany głównie z wkładu w rozwój j genetyki populacji i teorii ewolucji gdzie: W Δ Z = cov( w, z) + E( w Δz) W średnie przystosowanie; ΔZ zmiana średniej wartości cech w populacji; cov() kowariancja (określa zal.. liniową mi w dostosowanie i-tego i fenotypu; z wartość cechy i-tego i fenotypu; E() wartość oczekiwana Człon kowariancyjny opisuje proces doboru, zaś człon wartości oczekiwanej opisuje procesy transmisyjne (np( np.. mutacje). między dwoma zm. losowymi) Uznaje się, że e równanie r Price'a opisuje ilościowo, dokładnie i zupełnie proces ewolucji biologicznej (i jest największym wkładem w rozwój j teorii ewolucji od czasów w Darwina) 5

6 W procesie ewolucji istotne jest zachowywanie różnorodności cech. Siła a ewolucji to nie zaawansowany proces doskonalenia jednostki, lecz utrzymywanie dużej liczby różnorodnych osobników w (tzw. populacji), która ewoluuje jako całość ść. W procesie krzyżowania cechy osobników w mieszają się,, mogąc c dawać kombinacje cech dotąd d nie występuj pujące. Mutacja pozwala na powstanie osobników niemożliwych do uzyskania poprzez krzyżowanie. 6

7 7 AG CO TO JEST? AG odwzorowują naturalne procesy ewolucji zachodzące ce w czasie. Celem tych procesów w jest maksymalne dopasowanie osobników do istniejących warunków życia. Rolę środowiska spełnia tu funkcja oceniająca ca (funkcja celu).

8 8 Łącz czą w sobie ewolucyjną zasadę przeżycia najlepiej przystosowanych osobników w z systematyczną,, choć zrandomizowaną wymianą informacji. Pomimo elementu losowości AG nie błąb łądzą przypadkowo, lecz wykorzystują efektywnie przeszłe doświadczenia wiadczenia.

9 9 John H. Holland,, 1975: Adaptation in Natural and Artificial Systems : Koncepcja algorytmu przeszukiwania opartego na zasadzie doboru naturalnego. Procedurę probabilistycznego przeszukiwania dyskretnej przestrzeni stanów w nazwał algorytmem genetycznym.

10 10 AG - TERMINOLOGIA gen najmniejsza składowa chromosomu, decydująca ca o dziedziczności ci jednej lub kilku cech; chromosom uporządkowany ciąg g genów w (ciąg kodowy). Zwykle utożsamiany z osobnikiem; locus miejsce genu w chromosomie; allel wariant (stan) jednego genu warunkujący daną cechę; populacja pewna liczba osobników w (chromosom( chromosomów);

11 11 AG - TERMINOLOGIA genotyp ogół genów w danego osobnika; fenotyp ogół cech ujawniających się na zewnątrz (np.. rozkodowana postać zmiennych projektowych); mutacja zmiana jednego lub kilku genów w chromosomie; krzyżowanie operacja mająca na celu wymianę materiału u genetycznego między osobnikami.

12 12 ALGORYTMY NAŚLADUJ LADUJĄCE PROCESY ZACHODZĄCE CE W NATURZE: algorytmy genetyczne; programowanie ewolucyjne (ewoluujące automaty); programowanie genetyczne; strategie ewolucyjne; sieci neuronowe; algorytmy mrówkowe; algorytmy immunologiczne.

13 13 ZASTOSOWANIA PRAKTYCZNE AG (i AE): harmonogramowanie; wyznaczanie trasy połą łączeń kablowych; sterowanie adaptacyjne; rozgrywanie gier; zadanie plecakowe; zadanie komiwojażera; sterowanie optymalne; optymalizacja obsługi pytań w bazach danych;

14 nieliniowe systemy dynamiczne analiza danych; przewidywanie; projektowanie sieci neuronowych: architektury i wagi; poruszanie robotem; tworzenie programów; planowanie; znajdowanie kształtu tu molekuł białek; tworzenie grafik i muzyki;... 14

15 15 SZTUKA? classes.yale.edu/fractals/ca/ga/ /CA/GA/GA.htmlGA.html Steven Rooke: generowanie fraktali złożonych onych ze zbioru Mandelbrota.. Zaczynał ze 100 obrazków w w populacji przypisując każdemu funkcję estetyczną i stosując c klasyczny AG.

16 MUZYKA? Joanna Kołodziejczyk odziejczyk: Elementy sztucznej inteligencji - bijo.wi.ps.pl/ W chromosomie pamiętane sąs poziome wysokości tonów. Allele określaj lają półtony mogące być odtwarzane jako akordy. Oceny jakości dokonuje operator nadając c wagi odpowiednim chromosomom. 16

17 17 JAK DZIAŁA A AG Generowanie (zwykle losowo) populacji początkowej. Ocena każdego osobnika na podstawie pewnej miary jego dopasowania Każda następna iteracja (pokolenie) t : 1. Selekcja najlepszych osobników w z pokolenia t-1 2.Transformacja z zastosowaniem operatorów w genetycznych

18 18 SCHEMAT DZIAŁANIA ANIA AG: procedure algorytm_genetyczny begin t:=0 wybierz populację początkową P(t) oceń P(t) while (not warunek_zakończenia) do begin t:=t+1 wybierz P(t) z P(t-1) (selekcja) zmień P(t) (działanie operatorów genetycznych) oceń P(t) end end

19 AG MUSI MIEĆ OKREŚLONE (DLA KAŻDEGO ZADANIA): 1. Podstawową reprezentację zmiennych potencjalnego zadania; 2. Sposób b tworzenia początkowej populacji potencjalnych rozwiąza zań; 3. Funkcję oceniającą rozwiązania; zania; 4. Podstawowe operatory; 5. Wartości różnych r parametrów w (rozmiar populacji, prawdopodobieństwa użycia u operatorów w gen. itp.) 19

20 Przykład Znaleźć źć: max { f (x)=x 2 } dla wartości całkowitych x z zakresu Populacja w chwili t: P(t)= {x{ t 1,,...x t n); Założenia: - łańcuchy 5-bitowe 5 (x=0,1,...,31);( - liczebność populacji n=4. =4. 20

21 Ścisłe e rozwiązanie zanie: x = x = 31; x 2 = 961. Populacja początkowa (losowanie): x 0 = 1 x 0 = 2 x 0 = 3 x 0 =

22 22 Sytuacja początkowa: Nr osobnika Osobnik Wartość x Przystosowanie f(x)=x 2 Prawd. wylosowania osobnika fi p i f = Σ f / i Oczekiwana liczba kopii i f Suma Średnia Max

23 Selekcja: Każdemu ciągowi kodowemu odpowiada sektor koła ruletki o polu proporcjonalnym do przystosowania: 32% 6% 51% % <0, 0.51) 1, <0.51, 0.62) 2,... 23

24 Po selekcji: Nr osobnika Oczekiwana liczba kopii Liczba wylosowanych kopii Osobnik po selekcji Wartość x Przystosowanie f(x)=x 2 Prawd. wylosowania osobnika Suma Średnia Max (x2) 24

25 25 Krzyżowanie: p c = 0.9 Osobnik po selekcji Nr osobnika Partner 2 Punkt krzyżowania Osobnik po krzyżowaniu Wartość x 25 Przystosowanie f(x)=x Prawd. wylosowania osobnika Suma Średnia Max było: 576

26 Mutacja: p m = 0.05 Nr osobnika Osobnik po krzyżow aniu Osobnik po mutacji Mutacja? Wartość x Przystosowanie f(x)=x 2 Prawd. wylosowania osobnika NNNNN NNNNN NNNNN NNNTN Suma Średnia Max było:

27 ŚREDNIE DOPASOWANIE POPULACJI Początkowo Po selekcji Po krzyżowaniu Po mutacji MAX WARTOŚĆ FUNKCJI Początkowo Po selekcji Po krzyżowaniu Po mutacji 27

28 Rozpatrywać można zawsze zadanie maksymalizacji: g (x)) = -f (x) min f (x) = max g(x) = max{-f (x)} Zakłada ada się również,, iżi funkcja jest dodatnia w całej dziedzinie (selekcja!) max g(x) = max{g(x )+C} (jeśli g(x) jest ograniczona z dołu) 28

29 C

30 30 KODOWANIE LICZB RZECZYWISTYCH Założenia enia: f : R k R D i = [a[ i, b i ] R f (x 1,...x k ) > 0 dla każdego x i D i dokładno adność do c liczb znaczących cych po przecinku Wykonanie: 1. Podział D i = [a i, b i ] na r = (b i - a i ) 10 c podprzedziałów. 2. Wyznaczenie najmniejszej liczby całkowitej m: (b - a ) 10 c 2 m 1 i i

31 ODKODOWYWANIE: Przekształcenie łańcucha binarnego o długod ugości m na liczbę dziesiętn tną x ; 2. Obliczenie rzeczywistej wartości liczby: x = a + i ( b a ) x' i m i 2 1

32 Przykład: f (x)) = x sin(10π x) ) +1 max{ f (x)} Dziedzina funkcji: x [-1, 2] Liczba miejsc po przecinku: c = 6 Na ilu bitach trzeba zakodować liczbę (wyznaczenie m)? 32

33 33 a i = -1; b i = 2; 2 c = 6 liczba podprzedziałów: r = (b - a ) 10 c = i i (b - a ) 10 c 2 m 1 i i [2 - (-1)] 1)] = m = = m = 22

34 Mając c ciąg g bitów: Odkodowywanie: 1. Przekształcenie łańcucha na liczbę dziesiętn tną x : x = Obliczenie rzeczywistej wartości liczby: x = a + i ( b a ) x' i m i = = a i = -1; b i = 2; 2 c = 6 34

35 x = 0 x = x = + = x = 1+ = a i = -1; b i = 2

36 Przykład: 36 f (x)) = x sin(4πx ) x sin(20πx ) 2 2 max{f (x 1, x 2 )} x [-3.0, 12.1] 1 x [4.1, 2 5.8] c 1 = c 2 = 4

37 x 1 : r ( 1 = (b 1 - a 1 ) 10 c = m = = m = 18 1 x 2 : r ( 2 = (b 2 - a 2 ) 10 c = m = = m 2 = 15 m = m 1 + m 2 =

38 Wielkości zadawane przed uruchomieniem AG: liczebność populacji, prawdopodobieństwo krzyżowania, prawdopodobieństwo mutacji, inne (zależy y od algorytmu). Zazwyczaj wartości dobiera się ekspe- rymentalnie (metodą prób b i błęb łędów), indywidualnie dla rozwiązywanego zywanego problemu... choć istnieją pewne ogólne zalecenia... 38

39 39

40 OSOBNIK PRZYSTOSOWANIE ? Alfabet trójkowy: { 0, 1, * } * - symbol uniwersalny, nieistotne SCHEMAT: Wzorzec opisujący zbiór łańcuchów w podobnych ze względu na ustalone pozycje. 40

41 S =(* ) 1 ( ) ) i ( ) S =(*1* ) ) 2 ( ),( ),( ) ( ) ),( ) ) Do każdego schematu pasuje 2 r łańcuchów (r liczba * w schemacie) Schemat reprezentuje wszystkie łańcuchy, które zgadzają się z nim na wszystkich pozycjach innych niż *. 41

42 42 Ale: Do każdego łańcucha o długod ugości m pasuje 2 m schematów. Np. dla łańcucha (1001): 1001, *001,1*01,10*1,100*, **01,*0*1,*00*,1**1,1*0*,10**, 1***,*0**,**0*,***1, **** 2 m = 2 4 =16

43 Z kolei: 43 Dla wszystkich łańcuchów w o długod ugości m istnieje 3 m schematów. (3 = * ) Np. dla łańcuchów w 5-bitowych: = 32 różnych łańcuchów; 3 5 = 243 różne schematy.

44 Rząd d schematu o(s): 44 - liczba pozycji ustalonych w schemacie: S 1 = (***001**10), o(s 1 ) = 5; S 2 = (*0**00**1*), o(s 2 ) = 4; S 3 = ( *11), o(s 3 ) = 9; Rząd schematu określa jego specyficzność ść. (***001****) i (00*******1) ten sam rząd, ale...

45 45 Rozpięto tość ść (długo ugość definiująca) ca) schematu δ(s): - odległość pomiędzy pierwszą a ostatnią pozycją ustaloną w schemacie: S 1 = (***001**10), δ(s 1 ) = 10-4= 4=6; S 2 = (*0**00**1*), δ(s 2 ) = 9-2= 9 2=7; S 3 = ( *11), δ(s 3 ) = 10-1= 1=9 Rozpięto tość schematu określa jego zwartość ść.

46 Schematy: stanowią narzędzie do ścisłego badania i kla- syfikowania podobieństw ciągów w kodowych; są podstawowym narzędziem analizy wpływu operacji genetycznych na zachowanie populacji. 46

47 WPŁYW OPERACJI GENETYCZNYCH NA SCHEMATY 47 v1 = v2 = v3 = v4 = v5 = v6 = v7 = v8 = v9 = v10 = v11 = v12 = v13 = v14 = v15 = v16 = v17 = v18 = v19 = v20 = S 0 = = (****111**************************) L. łańcuchów w pasujących do S 0 w chwili t: ξ(s 0, t) =3 Rząd d schematu: o(s 0 ) =3 Rozpięto tość schematu: δ(s 0 ) = 7-57 = 2

48 Dopasowanie schematu w chwili t: eval( S, t) = ξ ( St, ) j= 1 eval( v ) ξ ( St, ) ij v ij łańcuch pasujący do schematu S eval(s 0,t) = ( )/3 = pop _ size F () t = eval( vi )/ pop_ size i= 1 ( )/3 = Średnie dopasowanie populacji: F() t = /20 = pop_size l. osobników w populacji Liczba łańcuchów w pasująca do schematu w chwili t+1: ξ( St, + 1) = ξ( St, ) eval( S, t) Ft () ξ(s, t+1) = 3 ( / ) = = 4.19 ξ(s, t+2) = = 5.85 (teoretycznie) 48

49 49 Selekcja v 1 1 = = v11 v 2 2 = = v4 v 3 3 = = v7 v 4 4 = = v11 v 5 5 = = v19 v 6 6 = = v4 v 7 7 = = v15 v 8 8 = = v5 v 9 9 = = v11 v 10 = = v3 v 11 = = v15 v 12 = = v9 v 13 = = v6 v 14 = = v8 v 15 = = v20 v 16 = = v1 v 17 = = v10 v 18 = = v13 v 19 = = v15 v 20 = = v16 nie wprowadza nowych schematów; powiela najlepsze schematy; niweluje najgorsze schematy.

50 Krzyżowanie v 18 v 18 = pasuje do2 33 schematów, np.: S ( 0 = (****111**************************) S ( 1 = (111****************************10) v 13 = punkt krzyżowania: pk = 20 Po krzyżowaniu: v 18 = v =

51 S ( 0 = (****111**************************) S ( 1 = (111****************************10) Rozpięto tości schematów: δ(s 0 ) = 7-5= 7 5=2 δ(s 1 ) = 33-1= 1=32 Prawdopodobieństwo zniszczenia schematu: p d ( S) = δ( S) m -1 p d (S 0 )=2/32=1/16= 2/32=1/16= p d (S 1 )= 32/32=1 Prawdopodobieństwo przetrwania schematu: p S ( S) =1- δ( S) m -1 p S (S 0 )= 1-2/32= 2/32= p S (S 1 )= 1-1= 1=0 51

52 Uwzględniaj dniając c całą populację (p c ) prawdopodobieństwo przetrwania schematu: p S ( S) =1- p c = 0.25 ( ) p δ S c m -1 p S (S 0 )= *2/32= 2/32= p S (S 1 )= *1= 1=0.75 Uwzględniaj dniając c możliwo liwość pasowania obu partnerów do schematu S: p S ( S) 1- ( ) p δ S c m -1 52

53 Liczba łańcuchów w pasujących do schematu S w chwili t+1 uwzględniaj dniając c selekcję i krzyżowanie: eval( S, t) δ( S) ξ( S, t + 1) ξ( S, t) 1- pc Ft () m-1 (RÓWNANIE WZROSTU SCHEMATU) U nas: ξ(s, t+1) ( /32) 2/32) = 4.12 uwzględniaj dniając c tylko selekcję: ξ (S, t+1) =

54 Mutacja v 19 = S ( 0 = (****111**************************) wylosowano gen nr 8: v 19 = Prawdopodobieństwo przetrwania bitu: 1- p m Prawdopodobieństwo przetrwania schematu: p s (S) = (1- p m ) o(s) p m << 1 p s (S) 1- o(s) p m 54

55 55 RÓWNANIE WZROSTU SCHEMATU eval( S, t) δ ( S) ξ( St, + 1) ξ( St, ) 1 pc os ( ) p Ft () m 1 m U nas: ξ(s, t+1) ( /32 2/ ) = 4.0 uwzględniaj dniając c selekcję i krzyżowanie: ξ (S, t+1) = 4.12 uwzględniaj dniając c tylko selekcję: ξ (S, t+1) = 4.18

56 56 TWIERDZENIE O SCHEMATACH: Krótkie, niskiego rzędu i oceniane powyżej średniej schematy uzyskują wykładniczo rosnącą liczbę łańcuchów w kolejnych pokoleniach. HIPOTEZA O BLOKACH BUDUJĄCYCH: Algorytm genetyczny poszukuje działania zbliżonego do optymalnego przez zestawianie krótkich, niskiego rzędu schematów o dużej wydajności działania, zwanych blokami budującymi (cegiełkami).