ALGORYTMY EWOLUCYJNE. INTELIGENTNE TECHNIKI KOMPUTEROWE wykład 011. Napór selekcyjny (selektywny nacisk. Superosobniki: SELEKCJA

Transkrypt

1 INTELIGENTNE TECHNIKI KOMPUTEROWE wykład 0 ALGORYTMY EWOLUCYJNE 2 Dla danego problemu można określić wiele sposobów kodowania i zdefiniować szereg operatorów (np. zadanie komiwojażera). AE to rozwinięcie i uogólnienie AG Należy jednoznacznie określić: schemat działania AE; metodę selekcji; sposób kodowania i operatory genetyczne; środowisko działania AE. 3 procedure Algorytm_Ewolucyjny begin t:=0 wybierz populację początkową P(t) oceń P(t) while (not warunek_zakończenia) do begin wybierz T(t) z P(t) (reprodukcja) utwórz O(t) z T(t) (działanie operatorów ewolucyjnych) end oceń O(t) utwórz P(t+) z O(t) ip(t) (sukcesja) t:=t+ end T temporary - tymczasowy O offspring - potomny 4 SELEKCJA = REPRODUKCJA (preselekcja) + SUKCESJA (postselekcja) procedure Algorytm_Ewolucyjny begin t:=0 wybierz populację początkową P(t) oceń P(t) while (not warunek_zakończenia) do begin wybierz T(t) z P(t) (reprodukcja) utwórz O(t) z T(t) (operatory) oceń O(t) utwórz P(t+) z O(t) ip(t) (sukcesja) t:=t+ end end Napór selekcyjny (selektywny nacisk selektywny nacisk): Tendencja algorytmu do poprawiania wartości średniej przystosowania. Algorytm charakteryzuje się tym większym naporem selekcyjnym, im większa jest oczekiwana liczba kopii lepszego osobnika w porównaniu z oczekiwaną liczbą kopii osobnika gorszego. Reprodukcja tworzenie populacji tymczasowej T(t), która jest poddawana działaniu operatorów genetycznych tworząc populację potomną O(t). Sukcesja tworzenie nowej populacji bazowej P(t+) z populacji potomnej O(t) oraz starej populacji bazowej P(t). 5 Superosobniki: niepożądane w początkowej fazie działania (przedwczesna zbieżność); pozytywne pod koniec pracy algorytmu (zawężenie przestrzeni poszukiwań). 6

2 Twarda (brutalna) selekcja wybór do populacji potomnej i powielanie tylko najlepszego osobnika (metoda stochastycznego wzrostu). Przyjęcie jednakowego prawdopodobieństwa - algorytm błądzi przypadkowo (brak( selekcji). W AE - metoda pośrednia, zwana miękką selekcją. METODY REPRODUKCJI 7 8 KOŁO O RULETKI SELEKCJA RANKINGOWA jak w AG... Szeregowanie osobników w wedługw wartości przystosowa- nia i selekcja zgodnie z kolejności cią (wg tzw. linii rangi ): SELEKCJA TURNIEJOWA Wybór k osobników (rozmiar turnieju, zwykle k=2) i selekcja najlepszego z grupy Zapobiega powstawaniu superosobników Powtarzane pop_size razy. 9 Pomija informację o względnych ocenach osobników. 0 SUKCESJA TRYWIALNA (z całkowitym zastępowaniem) METODY SUKCESJI Nową populacją bazową staje populacja potomna: P(t+) = O(t) (jak w AG). Najbardziej odporna na przedwczesną zbieżność. Najwolniej prowadzi do rozwiązania optymalnego. Może prowadzić do sytuacji, w której nie zawsze najlepsze rozwiązania z populacji P(t) znajdą się w populacji P(t+) +); 2 2

3 SUKCESJA Z CZĘŚ ĘŚCIOWYM ZASTĘPOWANIEM W nowej populacji bazowej są osobniki z populacji potomnej i ze starej populacji bazowej P(t+) = O(t) + P(t) Prowadzi zwykle do stabilniejszej pracy AE. Może spowodować tendencję do osiągania maksimów lokalnych. Mechanizm usuwania (warianty): usuwanie najgorzej przystosowanych osobników; usuwanie osobników podobnych do potomnych; usuwanie losowo wybranych osobników. SUKCESJA ELITARNA Gwarantuje przeżycie co najmniej najlepszego osob- nika poprzez odpowiedni wybór osobników z P(t) do P(t+) Wzrost wielkości elity powoduje przyspieszenie zbieżności algorytmu. Wzrost wielkości elity powoduje większe prawdo- podobieństwo osiągania ekstremów lokalnych. Najkorzystniej jeden, ew. kilka osobników). usuwanie losowo wybranych osobników. 3 4 TYPOWE OPERATORY KRZYŻOWANIA 5 Para rodziców para potomków Zwykle : 2 osobniki rodzicielskie - 2 (sprzężone) osobniki potomne. Pojedynczy osobnik potomny wariant dwuosobniczy para osobników rodzicielskich; wariant globalny jeden wiodący i n pomocniczych osobników rodzicielskich (po jednym dla każdego genu). Krzyżowanie wieloosobnicze: z wieloma osobnikami potomnymi; z jednym osobnikiem potomnym. 6 OPERATORY KRZYŻOWANIA WYMIENIAJĄCEGO 7 Wartość wielkości elity δ decyduje o naporze selek- cyjnym (δ=0 sukcesja trywialna). Tworzą chromosomy potomne przez składanie ich z wartości genów chromosomów rodzicielskich. Mogą być wykorzystywane zarówno przy kodo- waniu binarnym, jak i rzeczywistoliczbowym. Nie dochodzi do modyfikacji wartości genów zawartych w chromosomach krzyżowanych osobników rodzicielskich (tylko ich przetasowanie). 8 3

4 KRZYŻOWANIE JEDNOPUNKTOWE (proste) wybór (z rozkładem jednostajnym) liczby c (punkt rozcięcia) ze zbioru {, 2,..., n -} n - długość osobnika; Podział chromosomów X i X 2 poddawanych krzyżowaniu na dwie części i ich sklejanie: Y = [X[,,..., X c, X2 c+,,, X 2 n]. X X c Y Z W wersji z 2 osobnikami potomnymi drugi potomek: Z = [X[ 2,,..., X 2 c, X c+,,, X n ] 9 20 KRZYŻOWANIE DWUPUNKTOWE wybór 2 punktów rozcięcia c i c 2 ; X X Y 3.24 Z 2.22 Podział chromosomów X i X 2 poddawanych krzyżo- waniu na 3 części i wymiana środkowej części: Y = [X[,,..., X c, X 2 c+,, X 2 c2, X c2+,, X n ] c W wersji z 2 osobnikami potomnymi drugi potomek: c 2 Z = [X[ 2,,..., X 2 c, X c+,, X c2, X 2 c2+,, X 2 n ] c = c 2 krzyżowanie jednopunktowe KRZYŻOWANIE WIELOPUNKTOWE KRZYŻOWANIE RÓWNOMIERNE p e =0.5 Chromosom potomny: X i jeśli wylosowano liczbę < <p e ; Yi = 2 X i w przeciwnym razie. p e parametr krzyżowania (typowo p e =0.5) X X wylosowano Y Z W wersji z 2 osobnikami potomnymi drugi potomek: 2 X jeśli Y i = X i ; i Zi = X w przeciwnym razie. i

5 KRZYŻOWANIE DIAGONALNE Jest krzyżowaniem wieloosobniczym. Tworzy r potomków z r rodziców przy c = r - punktach krzyżowania. Osobniki potomne powstają w wyniku składania fragmentów kodu po przekątnej. Dla 3 osobników: Y = [X[,,..., X c, X 2 c+,, X 2 c2, X 3 c2+,, X 3 n ] Z = [X[ 2,,..., X 2 c, X 3 c+,, X 3 c2, X c2+,, X n ] W = [X[ 3,,..., X 3 c, X c+,, X c2, X 2 c2+,, X 2 n ] 25 X X 2 X 3 Y Z W W wersji potomkiem tylko potomek Y 26 OPERATORY KRZYŻOWANIA UŚREDNIAJĄCEGO Są specyficzne dla kodowania rzeczywistoliczbowego; Oddziałują na wartości genów chromosomów poddawanych krzyżowaniu; Wartości każdego genu chromosomów potomnych są liczbami zawierającymi się między największą i najmniejszą wartością genu chromosomów rodzicielskich KRZYŻOWANIE ARYTMETYCZNE X X 2 Y Z generowanie liczby losowej k z zakresu (0,) lub jej arbitralny wybór; uśrednianie arytmetyczne wartości genów chromosomów rodzicielskich: Y = X + k (X 2 - X ) k= W wersji z 2 osobnikami potomnymi drugi potomek: X 2 Rodzic 2 Linia krzyżowania Z = X 2 + X - Y Potomek 2 Potomek k=0.25 Rodzic 29 X 30 5

6 KRZYŻOWANIE HEURYSTYCZNE X X 2 Y i Nie jest krzyżowaniem uśredniającym! Generowanie liczby losowej k z zakresu (0,); Tworzy się (maksymalnie) jednego potomka: Y = k (X 2 - X ) + X przy założeniu, że X 2 X X 2 Może utworzyć potomka, który nie jest dopuszczalny, wówczas: Potomek Rodzic 2 Linia krzyżowania» generuje się nową liczbę losową i tworzy nowego potomka; Rodzic» Jeśli po założonej liczbie prób nie utworzono osobnika dopuszczalnego, to nie tworzy się potomka. 3 X 32 MUTACJA RÓWNOMIERNA TYPOWE OPERATORY MUTACJI 33 Losowy wybór genu w chromosomie. Przyjęcie przez gen wartości losowej (z rozkładem równomiernym) z zakresu dopuszczalnego dla danej zmiennej: Y = [X,..., X k,..., X n ], X k = left(k), right(k) Szczególnie użyteczna we wczesnej fazie działania AE (gdy pożądane jest szerokie przeszukiwanie obszaru poszukiwań optimum). 34 MUTACJA NIERÓWNOMIERNA Funkcja Δ(t,y) przyjmuje wartości z zakresu [0,y]; Należy do grupy tzw. mutacji ze strojeniem. Modyfikacja wartości wybranego genu o wartość pewnej funkcji Δ(t,y): Prawdopodobieństwo, że Δ(t,y) jest bliskie zero wzrasta ze wzrostem czasu obliczeń (nie zależy y jednak od zachowania się AE). Δ(t,y) Δ(t,y) Y = [X,..., X k,..., X n ], y y gdzie: X k =X k + Δ (t, right(k)-x k ) gdy wylosowano 0 X k =X k Δ (t, X k - left(k) gdy wylosowano 0 k 0 k 35 Początkowa faza obliczeń Pod koniec działania ania AE 36 6

7 MUTACJA BRZEGOWA MUTACJA GAUSSOWSKA Jest odmianą mutacji równomiernej, w której: X k = left(k) gdy wylosowano 0 X k = right(k) gdy wylosowano Przyjęcie przez wylosowany gen wartości losowej (z rozkładem Gaussa) o wartości oczekiwanej równej wartości przed zmianą: Y = [X,..., X k,..., X n ], X k = X k +N(0, N(0,σ) Szczególnie użyteczna, gdy rozwiązanie optymalne leży na brzegu obszaru dopuszczalnego lub bardzo blisko tego brzegu) LOSOWOŚĆ W AE OCENA DZIAŁANIA AE 39 Różne zachowanie algorytmu w niezależnych uruchomieniach przy jednakowych ustawieniach parametrów i identycznych populacjach początkowych... Losowość jest wprowadzana w AE: Podczas generowania populacji początkowej W procesie wyboru populacji potomnej na drodze reprodukcji (ukierunkowanie działania AE). Podczas działania operatorów ewolucyjnych (próbkowanie przestrzeni roboczej). 40 Należy dokonać wielu niezależnych uruchomień dla losowej próby różnych populacji bazowych P(0) (0). W przypadku wielu uruchomień dla tej samej popu- lacji P(0) można mówić o właściwościach danego algorytmu dla konkretnej populacji początkowej. Porównywane dwa algorytmy: wskazane jest aby próba ta była taka sama (dla każdej losowej populacji początkowej uruchamia się dwa porównywane algorytmy). ANALIZA STATYSTYCZNA: Analiza wartości oczekiwanej i odchylenia standardo- wartości przystosowania w populacji bazowej. wego Uwzględnienie informacji o min. i max.. osiąganej wartości. Uwzględnienie informacji o liczbie przypadków nie- różnych od najlepszego. wiele Prezentacja wyników w postaci histogramu pozwala ocenić właściwości rozkładu, które mogą umknąć przy analizie ograniczonej jedynie do statystyk liczbowych. Przykładowy histogram:

8 KRZYWE ZBIEŻNOŚCI Wykresy zmian wartości rozwiązania roboczego (średniego, najlepszego, najgorszego) w czasie. Kreśli się je: - dla pojedynczego uruchomienia algorytmu; - dla wielu niezależnych uruchomień. (Uśrednione bardziej reprezentatywne, lecz gubi się niektóre informacje o zachowaniu AE w pojedynczych uruchomieniach). Przykładowe krzywe zbieżności (dla uruchomienia algorytmu): wartość f. przystosowania max śr min Szczególna krzywa zbieżności: Wykres zmian w kolejnych pokoleniach wartości przys- tosowania najlepszego osobnika znalezionego od początku działania AE. Po zakończeniu działania AE osobnik ten jest rozwiąza- niem wyz.. przez pojedyncze uruchomienie AE wartość f. przystosowania pokolenie pokolenie KRYTERIA ZATRZYMANIA AE KRYTERIUM MAKSYMALNEGO KOSZTU Algorytm kończy działanie, jeśli koszt algorytmu przekroczy założoną wartość maksymalną K max. Często przyjęta odmiana przyjęcie pewnej maksymalnej dopuszczalnej liczby pokoleń algorytmu. Φ t max t KRYTERIUM ZADOWALAJĄCEGO POZIO- MU FUNKCJI PRZYSTOSOWANIA Zatrzymanie działania gdy AE znajdzie rozwiązanie o wartości funkcji przystosowania określonej przez użytkownika jako zadowalająca Φ s. KRYTERIUM MIN. SZYBKOŚCI POPRAWY Algorytm jest zatrzymywany, jeśli w kolejnych τ oblicze- niach wartości funkcji przystosowania nie uda się poprawić wyniku o więcej niż ε. Zwykle nie jest łatwo (bez dostatecznie dobrej znajo- mości funkcji przystosowa- nia) określić wartość zadowalającą. AE może działać dowolnie długo (należy dodatkowo określić maksymalny koszt znalezienia rozwiązania). Φ Φ s t 47 Często ε = 0 - algorytm zatrzymywany, jeśli nie uda się uzyskać lepszego rozwiązania w kolejnych τ pokoleniach. Φ min. szybkość poprawy ε τ t 48 8