Obliczenia Naturalne - Algorytmy genetyczne

Transkrypt

1 Literatura Kodowanie Obliczenia Naturalne - Algorytmy genetyczne Paweł Paduch Politechnika Świętokrzyska 27 marca 2014 Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 1 z 45

2 Plan wykładu Literatura Kodowanie 1 Literatura Kodowanie 2 Modele De Janga Alternatywne metody selekcji 3 PMX OX CX 4 Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 2 z 45

3 Literatura Literatura Kodowanie Mariusz Flasiński - do sztucznej inteligencji, PWN, 2011 Jarosław Arabas - Wykłady z algorytmów ewolucyjnych, WNT, 2001 David Edward Goldberg - Algorytmy genetyczne i ich zastosowania, WNT, 2009 Zbigniew Michalewicz - Algorytmy genetyczne+struktury danych=programy ewolucyjne, WNT, 2003 T. D. Gwiazda - Algorytmy Genetyczne - kompendium, Tom 1 i 2, PWN, 2007 Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 3 z 45

4 Kodowanie Literatura Kodowanie Do tej pory używaliśmy kodowania binarnego. Choć daje dość dużą swobodę nie jest na tyle elastyczne by poradzić sobie z różnorodnością wielu problemów. AG potrafią wyzyskać podobieństwa ciągów kodowych niezależnie od metody kodowania - jeśli tylko ze schematów-cegiełek da się zbudować prawie optymalne rozwiązania. Przy doborze kodowania należy kierować się dwoma zasadami: Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 4 z 45

5 Literatura Kodowanie Kodowanie - zasada znaczących cegiełek Kod należy dobierać w taki sposób, żeby schematy niskiego rzędu i o małej rozpiętości wyrażały własności zadania oraz pozostawały względnie niezależne od schematów o innych pozycjach ustalonych. (Goldberg) Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 5 z 45

6 Literatura Kodowanie Kodowanie - zasada minimalnego alfabetu Należy wybrać najmniejszy alfabet, w którym dane zadanie wyraża się w sposób naturalny. (Goldberg) Stosując duże alfabety uniemożliwiamy wykrycie podobieństw strukturalnych. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 6 z 45

7 Kodowanie wielu parametrów Literatura Kodowanie W przykładach używaliśmy liczb całkowitych z przedziału 0, 2 l 1. Żeby odwzorować w zadany przedział U min, U max można odwzorować go liniowo, z precyzją: π = U max U min 2 l 1 W przypadku wielu parametrów, należy każdy przypisać do bloku kodowego i połączyć je razem w jeden łańcuch. Bloki mogą mieć różną długość, oraz reprezentować różne przedziały U min, U max Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 7 z 45

8 Dyskretyzacja Literatura Kodowanie Zadania optymalizacyjne często charakteryzują się nie pojedynczym parametrem ale funkcją decyzyjną, której wartość musi być określona w każdym punkcie pewnego kontinuum. Żeby zastosować AG trzeba sprowadzić taką funkcję do postaci parametrycznej. siła F Rozwiązanie ciągłe Aproksymacja liniowa 0 t 0 t 1 t 2 t 3 t 4 t 5 czas t Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 8 z 45

9 Modele De Janga Modele De Janga Alternatywne metody selekcji De Jang przeprowadził analizę zachowania genetycznych systemów adaptacyjnych. W swoich eksperymentach opracował swoiste stanowisko pomiarowe, składające się z pięciu zadań z zakresu minimalizacji funkcji. Zaproponował dwa mierniki oceny: Do oceny poziomu zbieżności Do oceny efektywności bieżącej Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 9 z 45

10 Poziom zbieżności Modele De Janga Alternatywne metody selekcji Przy ocenie poziomu zbieżności (off-line performance) możemy przeprowadzać wiele symulacji i zapamiętywać najlepszy wynik otrzymany po warunku stopu. Efektywność off-line dla środowiska e strategii s De Jang określił następująco: x e (s) = 1 T T 1 f e (t) gdzie f e (t) = opt {f e (1), f e (2),..., f e (t)}. Czyli jest to średnia najlepszych aktualnych (do danej próby włącznie) wartości funkcji celu ze wszystkich prób. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 10 z 45

11 Ocena efektywności bieżącej Modele De Janga Alternatywne metody selekcji Przy ocenie efektywności bieżącej (on-line performance) wszystkie wyniki otrzymywane są na bieżąco. Efektywność dla środowiska e strategii s De Jang określił następująco: x e (s) = 1 T T f e (t) 1 gdzie f e (t) jest wartością funkcji celu dla środowiska e w próbie t. Jest to średnia wartość funkcji celu ze wszystkich prób włącznie z bieżącą. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 11 z 45

12 Plany reprodukcyjne De Janga Modele De Janga Alternatywne metody selekcji R1 - jest to cała rodzina planów zależnych od parametrów: n - wielkość populacji p c - prawdopodobieństwo krzyżowania p m - prawdopodobieństwo mutacji G - współczynnik wymiany (ang. Generation Gap) R2 - model elitarystyczny R3 - model wartości oczekiwanej R4 - elitarystyczny model wartości oczekiwanej R5 - model ze ściskiem (ang. crowding model) R6 - model uogólnionego krzyżowania Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 12 z 45

13 Współczynnik wymiany Modele De Janga Alternatywne metody selekcji Parametr G 0, 1 określa, jaka część osobników będzie podlegała operatorom genetycznym a jaka (z poprzedniego pokolenia) przejdzie bez zmian. Liczba osobników do krzyżowania i mutacji to n G. Gdy G = 1 tworzona jest zupełnie nowa generacja. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 13 z 45

14 Strategia R2 Modele De Janga Alternatywne metody selekcji Jeżeli a (t) jest najlepszym osobnikiem wygenerowanym do chwili t a utworzone w zwykły sposób pokolenie A(t + 1) nie zawiera a (t), to go dodajemy jako element N + 1. Strategia R2 jest nieco lepsza od klasycznej R1 tylko dla funkcji jednorodnych (z jednym maksimum), ponieważ algorytm może utknąć w maksimach lokalnych. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 14 z 45

15 Strategia R3 Modele De Janga Alternatywne metody selekcji Model wartości oczekiwanej R3. Obliczamy oczekiwaną liczbę kopii n i = f i dla każdego ciągu f kodowego i. (zakładamy że w każdym pokoleniu reprodukcji podlega cała populacja). Za każdym razem gdy jakiś ciąg zostaje wylosowany do kojarzenia i krzyżowania jego n i ulega zmniejszeniu o 0,5. Jeżeli dany ciąg podlega tylko replikacji, bez krzyżowania, jego n i zostaje zmniejszony o 1. Jeżeli n i < 0 to taki osobnik nie bierze udziału w losowaniu. Faktyczna liczba potomków nie może być większa niż f i f reguły jest to poniżej f i + 0, 5 f Strategia R3 jest metodą lepszą dla wszystkich funkcji prócz jednorodnych. Najlepiej działa dla p c = z Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 15 z 45

16 Strategia R4 Modele De Janga Alternatywne metody selekcji Elitarystyczny model wartości oczekiwanej R4. Jest to połączenie strategii R2 i R3 W modelu tym zachowujemy najlepszego osobnika oraz wykonujemy go w strategii R3. Dla funkci jednomodalnych uzyskano znaczną poprawę. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 16 z 45

17 Strategia R5 Modele De Janga Alternatywne metody selekcji Model ze ściskiem R5. Starsze osobniki są zastępowane przez nowo utworzone podobne egzemplarze. W celu utrzymania większej różnorodności populacji. Zastosowany model to populacja mieszana z G = 0, 1 dodatkowy parametr CF (ang. crowding factor) czynnik tłoku/ścisku. Osobnik przeznaczony do usunięcia był wybierany z podzbioru CF osobników wylosowanych z całej populacji, kryterium wyboru to maksymalne podobieństwo do nowo powstałego osobnika. (minimalna liczba różnic na poszczególnych pozycjach ciągu). W strategii R5 uzyskano poprawę optymalizacji funkcji wielomodalnych. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 17 z 45

18 Strategia R6 Modele De Janga Alternatywne metody selekcji Model uogólnionego krzyżowania. Dodatkowy parametr CP określający liczbę punktów krzyżowania. Dla CP = 1 mamy krzyżowanie proste. W przypadku krzyżowania dla CP parzystego ciąg kodowy traktowany jest jak pierścień bez początku i końca W przpadku krzyżowania z nieparzystą liczbą punktów dodatkowy punkt krzyżowania wypada na początku ciągu w miejscu 0. Niestety zwiększenie liczby punktów krzyżowania prowadzi do obniżenia obu wskaźników efektywności. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 18 z 45

19 Alternatywne metody selekcji Modele De Janga Alternatywne metody selekcji Poza znaną metodą ruletki (wybór losowy z powtórzeniami) gdzie występują fluktuacje losowe skutkujące sporymi odchyleniami faktycznej liczby wylosowanych osobników od oczekiwanej, można stosować wiele innych ciekawych metod wyboru: deterministyczny losowy według reszt bez powtórzeń losowy bez powtórzeń losowy według reszt z powtórzeniami losowy z powtórzeniami turnieje losowe (metoda rang Wetzela) Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 19 z 45

20 Wybór deterministyczny Modele De Janga Alternatywne metody selekcji Obliczamy prawdopodobieństwa reprodukcji pselect i = f i fi Wyznaczamy liczbę oczekiwanych kopii dla każdego osobnika e i = pselect i n, każdy otrzymuje tyle kopii ile wynosi część całkowita e i Populacja zostaje uporządkowana według części ułamkowych e i Pozostałe wolne miejsca w nowej populacji zostają zapełnione kopiami osobników wziętych z góry listy Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 20 z 45

21 Modele De Janga Alternatywne metody selekcji Wybór losowy według reszt bez powtórzeń Obliczamy prawdopodobieństwa reprodukcji pselect i = f i fi Wyznaczamy liczbę oczekiwanych kopii dla każdego osobnika e i = pselect i n, każdy otrzymuje tyle kopii ile wynosi część całkowita e i Części ułamkowe oczekiwanych liczb kopii traktujemy jako prawdopodobieństwa sukcesu w serii kolejnych próbach Bernoulliego. Np. Ciąg kodowy dla którego oczekiwana liczba kopii wynosi 1,4 otrzyma 1 kopię na pewno i jedną z prawdopodobieństwem 0,4. Działamy w ten sposób dopóki wszystkie miejsca w nowej populacji nie bedą obsadzone. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 21 z 45

22 Wybór losowy bez powtórzeń Modele De Janga Alternatywne metody selekcji Jest to inna nazwa modelu wartości oczekiwanej R3 De Jonga. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 22 z 45

23 Modele De Janga Alternatywne metody selekcji Wybór losowy według reszt z powtórzeniami Obliczamy prawdopodobieństwa reprodukcji pselect i = f i fi Wyznaczamy liczbę oczekiwanych kopii dla każdego osobnika e i = pselect i n, każdy otrzymuje tyle kopii ile wynosi część całkowita e i Części ułamkowe oczekiwanych liczb kopii służą do skalibrowania tarczy ruletki. Zostaje ona użyta do wypełnienia pozostałych miejsc w populacji. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 23 z 45

24 Turnieje losowe Modele De Janga Alternatywne metody selekcji Obliczamy prawdopodobieństwa reprodukcji pselect i = Losowane są pary osobników według reguły ruletki. f i fi Lepszy zawodnik wygrywa i umieszczony zostaje w nowym pokoleniu. Proces jest powtarzany do zapełnienia wszystkich miejsc. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 24 z 45

25 Metoda reprodukcji progowej Modele De Janga Alternatywne metody selekcji Sortujemy populacje według nierosnących wartości współczynników przystosowania Ustalamy próg zaliczenia :) Osobnicy, których współczynnik przystosowania spełnił zadany warunek są powielani. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 25 z 45

26 PMX PMX OX CX PMX (ang. Partially Matched Crossover) czyli krzyżowanie z częściowym odwzorowaniem, zastosowano w problemie komiwojażera. Przystosowanie jest tu funkcją uporządkowania f = f (o). Metodą analogiczną do krzyżowania, umożliwiającą wymianę wzorców uporządkowania między rodzicami i przekazywanie ich dzieciom jest operacja PMX. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 26 z 45

27 PMX PMX OX CX Wybieramy dwa losowe punkty podziału Punkty te wyznaczają sekcję dopasowania (ang. matching section) PMX odbywa się za pomocą kolejnych transpozycji Załóżmy, że mamy dwa ciągi: A= B= Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 27 z 45

28 PMX PMX OX CX Przenosząc 4 z ciągu A wstawiamy ją na miejsce 1 w ciągu B, gdyby tak zostawić mielibyśmy dwie 4 i żadnej 1. Dlatego zamieniamy 1 i 4 miejscami w ciągu B. Podobnie 5 z ciągu A trafia na 2 w ciągu B, 2 z ciągu B przechodzi na miejsce 5 w ciągu B Podobnie 6 i 9. W ciągu A robimy podobne zamiany: 1 i 4, 2 i 5 oraz 9 i 6 A = B = A = B = Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 28 z 45

29 OX PMX OX CX Operacja OX (ang. order crossover) początek ma podobny do PMX, czyli wylosowanie sekcji dopasowania. Następnie w ciągu A zostawiamy tylko sekcję dopasowania. W wolne miejsca, poczynając od drugiego punktu krzyżowania, przepisujemy wartości jeszcze nie występujące w ciągu A (pomijamy wyszarzone). Analogicznie postępujemy z ciągiem B. A = B = A = A = A = A = A = A = Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 29 z 45

30 PMX a OX PMX OX CX Zasadniczo operacje PMX i OX są do siebie podobne z tym że: PMX ma tendencje do respektowania bezwzględnych pozycji miast, OX ma tendencję do utrzymania względnych pozycji miast. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 30 z 45

31 Operacja CX PMX OX CX W krzyżowanie CX (ang. Cycle Crossover) rekombinacja spełnia warunek, że pozycja zajmowana przez każde miasto pochodzi od jednego lub drugiego z rodziców. Nie wybieramy punktów podziałów tylko wybieramy pierwsze miasto z trasy A czyli 1. Patrzymy jakie miasto w ciągu B jest na pierwszej pozycji jest to 3 Szukamy 3 w kodzie A i patrzymy co jest na tej samej pozycji kodzie B Ponieważ była to 4 a pod 4 w A jest 1 w B to znaczy, że cykl nam się domknął. teraz wystarczy uzupełnić resztą miast z ciągu B. A = B = A = A = Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 31 z 45

32 Synchroniczna scentralizowana Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Jeden proces nadrzędny koordynujący k procesów podrzędnych Proces nadrzędny odpowiedzialny jest za selekcję, kojarzenie oraz wykonywanie operacji genetycznych. Procesy podrzędne obliczają wskaźniki przystosowania. Proces podrzędny Proces nadrzędny Proces podrzędny Proces podrzędny Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 32 z 45

33 Półsynchroniczna scentralizowana Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Przy Synchronicznej organizacji, dla dużej wariancji czasu obliczeń na poszczególnych węzłach efektywność może być słaba. W organizacji półsynchronicznej wymóg synchroniczności został zniesiony, elementy populacji wstawiane i selekcjonowane na bieżąco. Mechanizm działa podobnie jak w populacjach mieszanych De Jonga przy współczynniku 0 < G < 1. Wadą jest nadal pełne uzależnienie od procesu nadrzędnego. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 33 z 45

34 Asynchroniczna rozproszona Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa k identycznych procesów wykonuje niezależnie od siebie zarówno operacje genetyczne, jak i obliczenia wskaźników przystosowania, korzystając ze wspólnej pamięci dzielonej. Jedynie należy zadbać o to by, dwa procesy nie zapisywały lub odczytywały w tym samym czasie z jednego miejsca. Proces wsp. 8 Proces wsp. 7 Proces wsp. 9 Proces wsp. 6 Proces wsp. 1 Pamięć dzielona Proces wsp. 5 Proces wsp. 2 Proces wsp. 3 Proces wsp. 4 Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 34 z 45

35 Model wysp Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Każdy proces działa niezależnie ze swoją podpopulacją. Co jakiś czas niektóre osobniki rozsyłane są przez sieć do innych grup. Modele wyspowe mogą różnić się co do: intensywnością migracji, zwykle jeden jakością migracji, zwykle są to najlepsi, ale można też losować, częstości wysyłania, co ile pokoleń, którego osobnika ma zastąpić przybysz (zwykle najgorszego), oraz topologią i kolejnością połączeń. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 35 z 45

36 Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Topologie organizacji sieciowego algorytmu gnetycznego Każdy z każdym Okrąg jednokierunkowy Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 36 z 45

37 Stopień wysp Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Cantú-Paz wprowadził specjalne pojęcie stopnia wysp. Określa liczbę sąsiednich wysp, do których wysyłane są osobniki. Zaproponował 3 topologie w których każda z wysp ma stopień równy 2. Drabina Okrąg 1+2 Okrąg 2+3 Cantú-Paz wyznaczył, że dla 8 wysp stopień 2 lub 3 jest najlepszy w minimalizowaniu czasu konwergencji. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 37 z 45

38 Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Topologie organizacji sieciowego algorytmu genetycznego Okrąg dwukierunkowy Okrąg Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 38 z 45

39 Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Topologie organizacji sieciowego algorytmu genetycznego Okrąg 2+3 Drabina Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 39 z 45

40 Model wspólnotowy Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Wspólnota Dom Wspólnota Rodzice Dzieci Dom Klub Agencja Dom Miasto Dom Kościół Dworzec Wspólnota Dom Dom Wspólnota Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 40 z 45

41 Model wspólnotowy Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Algorytm genetyczny rozdzielony na zbiór połączonych ze sobą wspólnot W skład wspólnot wchodzą domy połączone z miastami, z których jest dostęp do innych miast Rodzice robią dzieci w swoich domach (tam wyznacza się wskaźniki przystosowania) Starsze potomstwo idzie do klubu młodzieżowego aby znaleźć partnera Po zawarciu związku pary trafiają do agencji nieruchomości Dom można pozyskać w drodze przetargu Gdy w mieście aktualnie nie ma miejsca agencja może przydzielić dom w innym mieście, wtedy pary idą na dworzec autobusowy aby się przeprowadzić. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 41 z 45

42 Model pyłkowy Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Roślina Roślina Roślina kanały pyłkowe Roślina Roślina Roślina Roślina Roślina Roślina Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 42 z 45

43 Model pyłkowy Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Sieć roślin połączona kanałami. Pyłki przedostają się do sąsiednich roślin kanałami. Ziarna kiełkują i rozwijają się w dojrzałe rośliny wytwarzające pyłek. Transmisja pyłku danym kanałem jest określona przez pewne prawdopodobieństwo. Umożliwia to tworzenie izolowanych (w mniejszym lub większym stopniu) grup roślin. Pyłek zapyla dojrzałe rośliny umożliwiając powstanie nowych nasion. Lokalnie wybierane są najlepsze ziarna w sposób losowy. Wybrane ziarna kiełkują i wyrasta nowa roślina. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 43 z 45

44 Pytania Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa? Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 44 z 45

45 koniec Synchroniczna scentralizowania Półsynchroniczna scentralizowania Asynchroniczna rozproszona Organizacja sieciowa Dziękuję Państwu za uwagę. Paweł Paduch Obliczenia Naturalne - Algorytmy genetyczne 45 z 45