PLAN WYKŁADU OPTYMALIZACJA GLOBALNA HISTORIA NA CZYM BAZUJĄ AG

Transkrypt

1 PLAN WYKŁADU OPTYMALIZACJA GLOBALNA Wykład 2 dr inż. Agnieszka Bołtuć Historia Zadania Co odróżnia od klasycznych algorytmów Nazewnictwo Etapy Kodowanie, inicjalizacja, transformacja funkcji celu Selekcja Skalowanie funkcji przystosowania HISTORIA Lata 50 prace biologów (Barricelli, Fraser) nad symulacją procesów biologicznych, 1962 zastosowanie AG do zagadnień sztucznej adapatacji (J. Holland) 1967 AG grający w prostą grę (Bagley) 1970 systemy rozpoznające np. twarze ludzkie, 1971 J. Holland wydaje pierwszą pracę o zastosowaniu AG do optymalizacji funkcji 1975 Adaptation in Natural and Artificial Systems, John Holland (profesor z Uniwersytetu Michigan, Stany Zjednoczone) NA CZYM BAZUJĄ AG Naśladują procesy zachodzące w przyrodzie, Naśladują procesy ewolucji biologicznej, Odzwierciedlają dobór naturalny oraz dziedziczność, Łączą w sobie ewolucyjna zasadę przeżycia ż najlepiej przystosowanych z systematyczną, choć zrandomizowaną wymianą informacji tworząc metodę obdarzoną dozą ludzkiej pomysłowości, 1

2 AG KONTRA KLASYCZNE METODY AG nie przetwarza bezpośrednio parametrów zadania, ale ich zakodowana postać AG prowadzą poszukiwania nie z pojedynczego punktu, lecz pewnej populacji, AG korzystają jedynie z funkcji celu bez pochodnych i innych informacji, AG stosują probabilistyczne, a nie deterministyczne reguły wyboru. HISTORIA O KRÓLICZKACH WG. MICHALEWICZA W każdej chwil mamy jakąś populację królików. Niektóre z nich są szybsze i sprytniejsze od innych. Szybsze i sprytniejsze króliki mają większą szansę umknięcia przed lisem. Wobec tego więcej ich przeżywa, aby zrobić to, co króliki robią najlepiej, a mianowicie nowe króliki. Oczywiście, niektóre z wolniejszych i głupszych królików też przeżyją, bo mają szczęście. Ta ocalała populacja królików wydaje potomstwo. Jest ono dobrą mieszaniną materiału genetycznego. Niektóre wolne króliki krzyżują się z szybkimi, niektóre szybkie z szybkimi, nie które sprytne z głupimi itd. A do tego natura dorzuca od czasu do czas dziką kartę", wprowadzając mutację do genetycznego materiału królików. Urodzone w wyniku takiego procesu króliki będą (średnio) szybsze i sprytniejsze niż te z początkowej populacji, ponieważ szybsi i sprytniejsi rodzice umknęli przed lisami. NAZEWNICTWO Populacja zbiór osobników o pewnej liczebności (rozwiązań) Osobniki zakodowane w postaci chromosomów zbiory parametrów zadania, czyli rozwiązania zadania, czy też punkty przestrzeni poszukiwań, Chromosom - łańcuchy, czy też ciągi kodowe, to uporządkowane ciągi genów, Gen - pojedynczy element genotypu, w szczególności chromosomu, Genotyp - zespół chromosomów danego osobnika. Czyli osobnikami mogą być genotypy lub pojedyncze chromosomy, najczęściej genotyp składa się z jednego chromosomu osobnik haploidalny. NAZEWNICTWO Fenotyp - to zestaw wartości odpowiadający danemu genotypowi, Allel wartość danego genu, Locus pozycja wskazująca miejsce położenia danego genu w chromosomie, Generacja kolejna iteracja w AG, Pokolenie nowa populacja (wynik generacji), Funkcja przystosowania miara dostosowania osobnika do populacji. 2

3 NAZEWNICTWO KONTRA KRÓLICZKI Króliczek osobnik Populacja króliczków populacja Funkcja przystosowania określenie czy szybki czy wolny Selekcja słabe ł osobniki giną Krzyżowanie tworzenie nowych, wydawanie potomstwa Mutacja dzika karta SCHEMAT KLASYCZNEGO AG Simple Genetic Algorithm (SGA) by Holland Start Kodowanie Inicjalizacja Ocena przystosowania Reprodukcja Czy stop? Stop Operatory genetyczne Ocena przystosowania Nowa populacja Sukcesja ETAPY SGA Kodowanie i Inicjalizacja utworzenie populacji początkowej przez losowy wybór ustalonej liczby chromosomów w odpowiednim kodzie, Ocena przystosowania obliczenie funkcji przystosowania, im większa wartość tym lepiej przystosowany, KRYTERIUM STOPU Otrzymano wartość żądaną lub z żądaną dokładnością, Założona z góry liczba iteracji lub czas, Gdy kolejne iteracje nie wpływają na wyniki. Reprodukcja wybór chromosomów, które będą brały udział w tworzeniu nowej populacji, największe szanse mają te najlepiej przystosowane. 3

4 KODOWANIE W SGA Kodowanie wpływa na sposób przeszukiwania przestrzeni rozwiązań, Sposób zakodowania w chromosomie informacji o proponowanym p rozwiązaniu ą wydatnie wpływa py na szybkość i jakość znajdowanych wyników, Każde możliwe rozwiązanie optymalizowanego problemu przedstawiamy w postaci chromosomu, W SGA będzie to kodowanie binarne ciągi zerojedynkowe zapisane na dowolnej liczbie bitów. KODOWANIE BINARNE Polega na zastąpieniu zmiennej decyzyjnej zadania poprzez jej reprezentację binarną: Zakres zmienności ś i[ [a,b], Rozdzielczość (liczba genów), Sposób rozkładu zmiennych w przedziale. x d * D a+ 2 1 p = n D długość przedziału (b-a) n- liczba bitów d wartość dziesiętna z łańcucha binarnego KODOWANIE BINARNE - PRZYKŁADY Zad. 1 Mamy funkcję F(x). Należy zakodować liniowo zmienną decyzyjną tej funkcji w przedziale <0,31> na 5 bitach. KODOWANIE BINARNE - PRZYKŁADY F(x)=x 2-1, <60,150>, kodowanie liniowe na 5 bitach Zad. 2 Mamy funkcję F(x). Należy zakodować liniowo zmienną decyzyjną tej funkcji w przedziale <-5,7> na 5 bitach. przystosowanie względne= Plik.xls f f *100 lub f f 4

5 KODOWANIE - DOKŁADNOŚĆ można założyć dokładność wartości dziesiętnych otrzymywanych po przekształceniu z systemu binarnego, jest ona zależna od dziedziny zmienności x np. 6 miejsc po przecinku dla przedziału <-1,2> obliczamy dl*10 6 = 3* = x <= <2 x = < <2 22 = INICJALIZACJA Losowanie populacji początkowej zakodowanej w wybrany sposób, Dobór odpowiedniej liczby osobników: jeśli zbyt mało ł utkniemy w minimach i lokalnych l jeśli zbyt dużo duży koszt działania programy Odp. Rozdzielczość dla żądanej dokładności wynosi 22 OCENA PRZYSTOSOWANIA Ocena przystosowania polega na obliczeniu wartości funkcji przystosowania dla każdego chromosomu. Im większa wartość funkcji, tym lepszy chromosom. W zadaniach optymalizacyjnych funkcją przystosowania jest zwykle optymalizowana funkcja. W teorii sterowania funkcją przystosowania może być funkcja błędu, w teorii gier funkcja kosztu, etc. Zakłada się, że problem optymalizacji jest problemem poszukiwania maksimum funkcji i że funkcja przystosowania jest funkcją przyjmującą wartości nieujemne. Jeżeli pierwotna funkcja nie spełnia tych założeń, trzeba ją poddać odpowiedniej transformacji. TRANSFORMACJA FUNKCJI CELU g(x)=f(x)+ C min g(x)= C max -f(x) 5

6 REPRODUKCJA Zadaniem jest wybór osobników, które wezmą udział w tworzeniu następnego pokolenia, Tak jak w naturalnej selekcji im lepiej przystosowany (większa wartość funkcji przystosowania) tym większe szanse, Rodzaje: losowa gdy wszyscy mają jednakowe prawdopodobieństwo przejścia, proporcjonalna gdy prawdopodobieństwo przejścia zależy od wartości funkcji przystosowania. METODA RULETKI Symulacja odpowiednio wykalibrowanej tarczy obrotowej ruletki, Każdy chromosom ma swój odpowiednik na ruletce o wielkości takiej jak wartość funkcji przystosowania, tzn. f p s = *100 lub f = f f Proces selekcji oparty jest na n-krotnym uruchomieniu ruletki (n-liczba osobników) i wyborze za każdym razem jednego osobnika, Niektóre będą wybrane częściej, inne raz, jeszcze inne wcale. p s METODA RULETKI - IMPELMENTACJA Dla każdego chromosomu obliczamy tzw. dystrybuantę q = i i p s j j= 1 Losujemy liczbę r z przedziału ł <0,1> 01 lub <0,100> 0100 Wybieramy chromosom i-ty dla którego q < r i 1 q i WADY REPRODUKCJI RULETKOWEJ W bezpośredni sposób może być stosowana jedynie do szukania maksimum funkcji, Osobniki o zbyt małej funkcji przystosowania mogą być zbyt szybko zostać usunięte co doprowadzi do przedwczesnej zbieżności, Skalowanie funkcji przystosowania 6

7 SKALOWANIE FUNKCJI PRZYSTOSOWANIA - CELE Zapewnienie odpowiedniego poziomu konkurencji podczas wykonywania algorytmu, Zapobieganie przed dominowaniem w selekcji niewielkiej liczby superosobników poprzez zmniejszenie wartości funkcji celu zapobieganie i przedwczesnej zbieżności, ż ś i W fazach późniejszych gdy skład populacji jest bardziej jednorodny, poziom konkurencji między osobnikami spada i mamy do czynienia z błądzeniem algorytmu, wówczas należy powiększyć wartości funkcji celu, aby uwydatnić różnice pomiędzy członkami populacji zapobieganie błądzeniu. SKALOWANIE FUNKCJI PRZYSTOSOWANIA Skalowanie liniowe F =af+b a,b dobieramy tak aby średnia wartość funkcji F była równa średniej wartości F, a maksymalna wartość F była wielokrotnością średniej wartości funkcji przystosowania Współczynnik wielokrotności przyjmuje się często pomiędzy 1.2 a 2 Należy uważać aby skalowanie nie doprowadziło do powstania ujemnych wartości funkcji przystosowania SKALOWANIE FUNKCJI PRZYSTOSOWANIA Skalowanie liniowe zapewnia, że przeciętny osobnik otrzymuje przeciętnego potomka, a najlepszy tylu ile wynosi założona krotność, Skalowanie liniowe daje dobre rezultaty oprócz przypadków pojawiania się ujemnej wartości funkcji przystosowania, gdy nie może być stosowane, najczęściej ta cecha pojawia się w końcowych fazach działania algorytmu, gdy większość ma wysoką wartość funkcji przystosowania ale jest kilku osobników z mała wartością. SKALOWANIE FUNKCJI PRZYSTOSOWANIA Obcinanie typu sigma ' F = F + ( F cσ ) F - średnia wartość funkcji przystosowania c - mała liczba naturalna (1-5) - odchylenie standardowe w populacji σ Wszystkie wartości ujemne F zamienia się na 0. 7

8 SKALOWANIE FUNKCJI PRZYSTOSOWANIA Skalowanie potęgą F =F k k bliskie 1, np. k=1.005 Może ulegać jednak zmianie w trakcie przebiegu i jest zależny od problemu. REPRODUKCJA RANKINGOWA Każdemu osobnikowi nadawana jest pewna wartość zależna od jego położenia na liście posortowanej względem funkcji przystosowania, tzw. ranga (r), Cechy: zmniejsza przewagę najlepszych rozwiązań, gdy jest zbyt duża i zwiększa przewagę jeśli jest zbyt mała, może być stosowana do żądań poszukiwania minimum i maksimum. REPRODUKCJA RANKINGOWA Istnieją różne funkcje pozwalające określić prawdopodobieństwo wylosowania osobnika. Dla liniowej metody rankingowej prawdopodobieństwo przeżycia danego osobnika może zostać wyznaczone w następujący sposób p s r = a + k(1 ) gdzie parametry a i k dobiera się tak, by spełnione były warunki: r max PORÓWNANIE RULETKA KONTRA RANKING F(x) Przystosowanie względne Ruletka Ranking (a=0.1,k=0.7) 1 1/ % % 13 13/ % % 7 7/ % % W przypadku metody rankingowej wzrasta szansa na przeżycie osobnika o najmniejszej wartości funkcji przystosowania. ps =1, 0 p s 1. 8

9 REPRODUKCJA TURNIEJOWA Losowy wybór kilku osobników (grupa turniejowa), grupa turniejowa jest k-elementowa, zwykle 2,3-osobowa, Wybieramy najlepszego osobnika z grupy na podstawie funkcji przystosowania i wstawiamy go do nowej populacji, Powtarzamy czynność tyle razy ile osobników w całej populacji, Wyróżniamy losowanie osobników ze zwracaniem i bez zwracania. NAPÓR SELEKTYWNY Tendencję algorytmu do poprawiania średniej wartości przystosowania populacji bazowej nazywa się naciskiem (naporem) selektywnym; Algorytm ma tym większy nacisk selektywny, im większa jest wartość oczekiwana liczby kopii lepszego osobnika w porównaniu z wartością oczekiwaną liczby kopii gorszego osobnika; NAPÓR SELEKTYWNY - RULETKA Intensywność nacisku selektywnego zmniejsza się wraz z kolejnymi generacjami, gdyż coraz więcej osobników potomnych uzyskuje zbliżone wartości przystosowania, co utrudnia zbieżność takiego algorytmu. Z kolei na początku działania, przy dużym zróżnicowaniu wartości przystosowania, należy oczekiwać silnego nacisk selektywnego, mogącego powodować tendencję do przedwczesnej zbieżności. NAPÓR SELEKTYWNY - RANKING Napór selektywny określają parametry a i k ze wzoru na prawdopodobieństwo przeżycia danego osobnika, W porównaniu z innymi metodami, selekcja rangowa stwarza dużą szansę na przetrwanie osobników o małej, w stosunku do najlepszych osobników, wartości funkcji przystosowania. Istotnym jest, aby w procesie selekcji zachować różnorodność osobników populacji. Metoda ta nie napotyka na konieczność skalowania w związku z problemem przedwczesnej zbieżności, co może wystąpić przy stosowaniu metody ruletki. 9

10 NAPÓR SELEKTYWNY - TURNIEJ Parametrem sterującym intensywnością nacisku selektywnego jest liczność turnieju q. Im liczba ta jest większa, tym większy jest napór selekcyjny metody. Warianty bez zwracania i ze zwracaniem dają różny nacisk selektywny: drugi z nich jest mniej restrykcyjny, gdyż pozwala na reprodukcję dowolnego osobnika z niezerowym prawdopodobieństwem, z kolei w pierwszym, q-1 najgorszych osobników nie będzie w ogóle reprodukować. WYKŁAD PRZYGOTOWANO NA PODSTAWIE J. Arabas Wykłady z algorytmów ewolucyjnych, WNT, Z. Michalewicz Algorytmy genetyczne + struktury danych = programy ewolucyjne, WNT, D. E. Goldberg Algorytmy genetyczne i ich zastosowania, WNT,