Testy De Jonga. Problemy. 1 Optymalizacja dyskretna i ciągła

Transkrypt

1 Problemy 1 Optymalizacja dyskretna i ciągła

2 Problemy 1 Optymalizacja dyskretna i ciągła 2 Środowisko pomiarowe De Jonga

3 Problemy 1 Optymalizacja dyskretna i ciągła 2 Środowisko pomiarowe De Jonga 3 Ocena poziomu zbieżności i efektywności bieżącej

4 Problemy 1 Optymalizacja dyskretna i ciągła 2 Środowisko pomiarowe De Jonga 3 Ocena poziomu zbieżności i efektywności bieżącej 4 Warianty modeli eksperymentalnych De Jonga

5 Problemy 1 Optymalizacja dyskretna i ciągła 2 Środowisko pomiarowe De Jonga 3 Ocena poziomu zbieżności i efektywności bieżącej 4 Warianty modeli eksperymentalnych De Jonga 5 Wnioski i podsumowanie

6 Drzewo optymalizacyjne

7 Zadania optymalizacji Zadania dyskretne

8 Zadania optymalizacji Zadania dyskretne metody dokładne;

9 Zadania optymalizacji Zadania dyskretne metody dokładne; metody przybliżone;

10 Zadania optymalizacji Zadania dyskretne metody dokładne; metody przybliżone; metody losowe;

11 Zadania optymalizacji Zadania dyskretne metody dokładne; metody przybliżone; metody losowe; Zadania ciągłe

12 Zadania optymalizacji Zadania dyskretne metody dokładne; metody przybliżone; metody losowe; Zadania ciągłe metody bezgradientowe (poszukiwania proste i kierunków sprzężonych);

13 Zadania optymalizacji Zadania dyskretne metody dokładne; metody przybliżone; metody losowe; Zadania ciągłe metody bezgradientowe (poszukiwania proste i kierunków sprzężonych); metody gradientowe (metody największego spadku i gradientów sprzężonych);

14 Zadania optymalizacji Zadania dyskretne metody dokładne; metody przybliżone; metody losowe; Zadania ciągłe metody bezgradientowe (poszukiwania proste i kierunków sprzężonych); metody gradientowe (metody największego spadku i gradientów sprzężonych); (pseudo)-newtonowskie;

15 Zadania optymalizacji Zadania dyskretne metody dokładne; metody przybliżone; metody losowe; Zadania ciągłe metody bezgradientowe (poszukiwania proste i kierunków sprzężonych); metody gradientowe (metody największego spadku i gradientów sprzężonych); (pseudo)-newtonowskie; METODY NIEDETERMINISTYCZNE (SA, TE, TS,...)

16 Funkcje De Jonga

17 Funkcje De Jonga

18 Funkcje De Jonga

19 Funkcje De Jonga

20 Funkcje De Jonga

21 Funkcje De Jonga

22 Projekt środowiska pomiarowego De Jong zaproponował środowisko pomiarowe, składające się z 5 zadań z zakresu minimalizacji funkcji. Wziął on pod uwagę funkcje o następujących charakterystykach: ciągłe/nieciągłe

23 Projekt środowiska pomiarowego De Jong zaproponował środowisko pomiarowe, składające się z 5 zadań z zakresu minimalizacji funkcji. Wziął on pod uwagę funkcje o następujących charakterystykach: ciągłe/nieciągłe wypukłe/niewypukłe

24 Projekt środowiska pomiarowego De Jong zaproponował środowisko pomiarowe, składające się z 5 zadań z zakresu minimalizacji funkcji. Wziął on pod uwagę funkcje o następujących charakterystykach: ciągłe/nieciągłe wypukłe/niewypukłe jednomodalne/wielomodalne

25 Projekt środowiska pomiarowego De Jong zaproponował środowisko pomiarowe, składające się z 5 zadań z zakresu minimalizacji funkcji. Wziął on pod uwagę funkcje o następujących charakterystykach: ciągłe/nieciągłe wypukłe/niewypukłe jednomodalne/wielomodalne kwadratowe/niekwadratowe

26 Projekt środowiska pomiarowego De Jong zaproponował środowisko pomiarowe, składające się z 5 zadań z zakresu minimalizacji funkcji. Wziął on pod uwagę funkcje o następujących charakterystykach: ciągłe/nieciągłe wypukłe/niewypukłe jednomodalne/wielomodalne kwadratowe/niekwadratowe niskiego/wysokiego wymiaru

27 Ocena poziomu zbieżności efektywność bieżąca

28 Ocena poziomu zbieżności efektywność bieżąca efektywność on-line x x e (s) = 1 T T f e (t) (1) 1

29 Ocena poziomu zbieżności efektywność bieżąca efektywność on-line x x e (s) = 1 T T f e (t) (1) 1 efektywność off-line x x e (s) = 1 T T 1 f e (t) (2) f e = opt{f e (1), f e (2),..., f e (t)} (3)

30 Plan reprodukcyjny R1 Plan reprodukcyjny R1 obejmował 3 operacje: selekcja według reguły ruletki

31 Plan reprodukcyjny R1 Plan reprodukcyjny R1 obejmował 3 operacje: selekcja według reguły ruletki krzyżowanie proste (z kojarzeniem losowym)

32 Plan reprodukcyjny R1 Plan reprodukcyjny R1 obejmował 3 operacje: selekcja według reguły ruletki krzyżowanie proste (z kojarzeniem losowym) mutacja prosta

33 Plan reprodukcyjny R1 Plan reprodukcyjny R1 obejmował 3 operacje: selekcja według reguły ruletki krzyżowanie proste (z kojarzeniem losowym) mutacja prosta Wszystkie operacje są wykonywane na populacjach dwójkowych ciągów kodowych (kod blokowy ze standaryzacją parametrów, dwójkowy zapis pozycyjny w blokach).

34 Plan reprodukcyjny R1 Parametry R1: 1 m - wielkość populacji

35 Plan reprodukcyjny R1 Parametry R1: 1 m - wielkość populacji 2 p c - prawdopodobieństwo krzyżowania

36 Plan reprodukcyjny R1 Parametry R1: 1 m - wielkość populacji 2 p c - prawdopodobieństwo krzyżowania 3 p m - prawdopodobieństwo mutacji

37 Plan reprodukcyjny R1 Parametry R1: 1 m - wielkość populacji 2 p c - prawdopodobieństwo krzyżowania 3 p m - prawdopodobieństwo mutacji 4 G - współczynnik wymiany. (G = 1 populacje rozłączne, 0 < G < 1 populacje mieszane)

38 Plan reprodukcyjny R1 Parametry R1: 1 m - wielkość populacji 2 p c - prawdopodobieństwo krzyżowania 3 p m - prawdopodobieństwo mutacji 4 G - współczynnik wymiany. (G = 1 populacje rozłączne, 0 < G < 1 populacje mieszane) W populacjach mieszanych operacje genetyczne wykonuje się na n*g osobnikach.

39 Wnioski - F1 i inne (R1) Większe populacje prowadzą do większej końcowej efektywności off-line. Efektywność on-line jest gorsza na początku.

40 Wnioski - F1 i inne (R1) Większe populacje prowadzą do większej końcowej efektywności off-line. Efektywność on-line jest gorsza na początku. Intensywniejsze mutacje pogorszyły oba wskaźniki efektywności.

41 Wnioski - F1 i inne (R1) Większe populacje prowadzą do większej końcowej efektywności off-line. Efektywność on-line jest gorsza na początku. Intensywniejsze mutacje pogorszyły oba wskaźniki efektywności. Zalecił p c na poziomie 0.6 jako dobry kompromis w celu osiągnięcia dobrej efektywności on-line i off-line.

42 Wnioski - F1 i inne (R1) Większe populacje prowadzą do większej końcowej efektywności off-line. Efektywność on-line jest gorsza na początku. Intensywniejsze mutacje pogorszyły oba wskaźniki efektywności. Zalecił p c na poziomie 0.6 jako dobry kompromis w celu osiągnięcia dobrej efektywności on-line i off-line. eksperymenty ze współczynnikiem G wykazały, że model rozłącznych populacji był najwłaściwszy dla więszkości zadań optymalizacyjnych.

43 Warianty planu R1 R2 - model elitarystyczny

44 Warianty planu R1 R2 - model elitarystyczny R3 - model wartości oczekiwanej

45 Warianty planu R1 R2 - model elitarystyczny R3 - model wartości oczekiwanej R4 - elitarystyczny model wartości oczekiwanej

46 Warianty planu R1 R2 - model elitarystyczny R3 - model wartości oczekiwanej R4 - elitarystyczny model wartości oczekiwanej R5 - model ze ściskiem (crowding model)

47 Warianty planu R1 R2 - model elitarystyczny R3 - model wartości oczekiwanej R4 - elitarystyczny model wartości oczekiwanej R5 - model ze ściskiem (crowding model) R6 - model uogólnionego krzyżowania

48 Wnioski R2 W eksperymentach z R2 De Jong stwierdził, że plan elitarystyczny w znaczący sposób zwiększa zarówno efektywność off-line, jak i on-line dla funkcji jednomodalnych.

49 Wnioski R2 W eksperymentach z R2 De Jong stwierdził, że plan elitarystyczny w znaczący sposób zwiększa zarówno efektywność off-line, jak i on-line dla funkcji jednomodalnych. Jednakże dla funkcji F5 oba te wskaźniki spadły.

50 Wnioski R2 W eksperymentach z R2 De Jong stwierdził, że plan elitarystyczny w znaczący sposób zwiększa zarówno efektywność off-line, jak i on-line dla funkcji jednomodalnych. Jednakże dla funkcji F5 oba te wskaźniki spadły. Elitaryzm poprawia efektywność przeszukiwania kosztem perspektywy globalnej.

51 Plan R3 W modelu R3 De Jong starał się zniwelować dużą wariancję, występującą przy selekcji zgodnej z zasadą ruletki. W tym celu wyliczył wartość oczekiwaną fi f dla każdego ciągu kodowego i (przy założeniu, że w każdym pokoleniu reprodukcji podlega cała populacja). Za każdym razem, gdy ciąg został wylosowany - jego kredyt ulegał zmniejszeniu o 0.05 (w tym modelu zachowywano tylko jednego potomka z krzyżowania). Jeśli ciąg podlegał tylko replikacji, jego kredyt zmalał o 1.0. W obu przypadkach, osobnik, którego kredyt spadł poniżej zera, nie mógł już dalej podlegać reprodukcji.

52 Plan R4 W planie R4 De Jong połączył cechy R3 i R4. Utworzył elitarystyczny model wartości oczekiwanej. Wyniki, które otrzymał, były następujące: Dla funkcji jednomodalnych (F1 do F4) obserwowano istotną poprawę.

53 Plan R4 W planie R4 De Jong połączył cechy R3 i R4. Utworzył elitarystyczny model wartości oczekiwanej. Wyniki, które otrzymał, były następujące: Dla funkcji jednomodalnych (F1 do F4) obserwowano istotną poprawę. W przypadku F5 - spadła efektywność.

54 Plan reprodukcyjny R5 De Jong postanowił zastępować nowo utworzonym potomstwem podobne do niego, starsze osobniki - utrzymanie wiekszej różnorodności w populacji.

55 Plan reprodukcyjny R5 De Jong postanowił zastępować nowo utworzonym potomstwem podobne do niego, starsze osobniki - utrzymanie wiekszej różnorodności w populacji. W tym celu zastosował model z populacją mieszaną, ustalając współczynnik wymiany G = 0.1. Wprowadził też współczynnik ścisku (CF-crowding factor).

56 Plan reprodukcyjny R5 W modelu ze ściskiem, za każdym razem, gdy powstał nowy osobnik, wybierano innego do usunięcia. Osobnik przeznaczony do usunięcia był wybierany spośród podzbioru CF osobników wylosowanych z całej populacji. Kryterium tego wyboru było maksymalne podobieństwo do nowo powstałego osobnika.

57 Plan reprodukcyjny R5 W modelu ze ściskiem, za każdym razem, gdy powstał nowy osobnik, wybierano innego do usunięcia. Osobnik przeznaczony do usunięcia był wybierany spośród podzbioru CF osobników wylosowanych z całej populacji. Kryterium tego wyboru było maksymalne podobieństwo do nowo powstałego osobnika. Procedura ta przypomina selekcję Cavicchia (1970).

58 Model uogólnionego krzyżowania R6 Wprowadzono w nim dodatkowy parametr CP=1 (krzyżowanie proste). Przy parzystych wartościach CP ciąg kodowy traktuje się jak pierścień bez początku i końca, a CP punktów podziału wybiera się z jednakowym prawdopodobieństwem wzdłuż okęgu.

59 Model uogólnionego krzyżowania R6 Wprowadzono w nim dodatkowy parametr CP=1 (krzyżowanie proste). Przy parzystych wartościach CP ciąg kodowy traktuje się jak pierścień bez początku i końca, a CP punktów podziału wybiera się z jednakowym prawdopodobieństwem wzdłuż okęgu. de Jong nie był pierwszym, który rozważał bardziej złożone warianty operacji krzyżowania. Cavicchio (1970) wprowadził krzyżowanie dwupunktowe, Frantz (1972) opracował uogólnioną jednoparametrową operację krzyżowania.

60 Model uogólnionego krzyżowania R6 Wprowadzono w nim dodatkowy parametr CP=1 (krzyżowanie proste). Przy parzystych wartościach CP ciąg kodowy traktuje się jak pierścień bez początku i końca, a CP punktów podziału wybiera się z jednakowym prawdopodobieństwem wzdłuż okęgu. de Jong nie był pierwszym, który rozważał bardziej złożone warianty operacji krzyżowania. Cavicchio (1970) wprowadził krzyżowanie dwupunktowe, Frantz (1972) opracował uogólnioną jednoparametrową operację krzyżowania. Złożone operacje krzyżowania doprowadzają do degradacji schematów!