ORGANIZACJA ZAJĘĆ Wykładowca dr nż. Agneszka Bołtuć, pokój 304, e-mal: aboltuc@.uwb.edu.pl Lczba godzn forma zajęć: 15 godzn wykładu oraz 15 godzn laboratorum 15 godzn projektu Konsultacje: ponedzałk 9:30-11:00, pokój 304 OPTYMALIZACJA GLOBALNA Wykład 1 dr nż. Agneszka Bołtuć Wykłady w wersj elektroncznej: gold.uwb.edu.pl/~aboltuc Forma zalczena wykładu: zalczene psemne PLAN WYKŁADU Wstęp Rodzaje zadań Własnośc funkcj celu Ogranczena funkcj celu Lczba wymarów a złożoność Ocena algorytmów optymalzacj koszt symulacj WSTĘP Optymalzacja, ścśle rozumana, dotyczy poszukwana najlepszego rozwązana. W rzeczywstośc ś chodz często o znalezene rozwązana lepszego nż znane dotychczas. optmus (łacna) - najlepszy 1
GDZIE STOSOWANA w oprogramowanu wspomagającym projektowane (CAD) - w procese projektowana kształtu komory slnka odrzutowego, w mkroelektronce do projektowana rozłożena elementów na płytkach, w radotechnce do projektowana anten, w dzedznach, będących domeną badań operacyjnych, na przykład w optymalzacj kolejnośc dostarczana przesyłek, w harmonogramowanu zadań, w rozkładach jazdy, we wspomaganu nawgacj, wyznaczanu tras, podejmowanu decyzj. SFORMUŁOWANIE ZADANIA OPTYMALIZACJI Jest dana metryczna przestrzeń poszukwań Ω = ( U, ), gdze U jest zborem wartośc, a metryką, oraz podzbór D U, Dana jest także funkcja celu (zwana wskaźnkem jakośc) f ( x): U R, Zadane optymalzacj polega za znalezenu takego x D, że x = argmnf ( x) x D SPOSOBY ROZWIĄZYWANIA analtyczne możlwe tylko w przypadku klasy funkcj przedstawonych analtyczne, rzadko stosowane ze względu na trudnośc, numeryczne przeszukwane zboru dopuszczalnego w poszukwanu jak najlepszego punktu klasyczne metody optymalzacj, metody optymalzacj globalnej. RODZAJE ZADAŃ w zależnośc od przestrzen poszukwań optymalzacja parametryczna -zakłada sę, że punkt jest wektorem zmennych nezależnych, z których każda przyjmuje pewną wartość; oznacza to, że przestrzeń przeszukwań jest loczynem kartezjańskm zborów wartośc zmennych nezależnych. zadana cągłe - charakteryzują sę tym, że przestrzeń przeszukwań jest loczynem kartezjańskm n zboru lczb rzeczywstych U = R, zadana wypukłe (gdy zbór dopuszczalny funkcja celu są wypukłe), zadana optymalzacj globalnej (newypukła funkcja celu lub zbór dopuszczalny), x U 2
RODZAJE ZADAŃ optymalzacja dyskretna - gdy wartośc zmennych nezależnych x, należą do zboru dyskretnego n (skończonego lub przelczalnego) U = Z, optymalzacja kombnatoryczna -każda ze zmennych nezależnych przyjmuje wartość logczną n - prawda albo fałsz, czyl U = Z 2, RODZAJE ZADAŃ Optymalzacja bez ogranczeń gdy zbór dopuszczalny D jest tożsamy z przestrzeną przeszukwań U, Optymalzacja z ogranczenam w przecwnym przypadku nż wyżej. optymalzacja meszana część zmennych przyjmuje wartośc rzeczywste część całkowte. Zadana w Z n będące dyskretną wersją z R n Nektóre z zadań całkowtolczbowych można uzyskać, formułując zadane cągłe przyjmując dodatkowe ogranczene, że zbór dopuszczalny zawera wektory, których wartośc zmennych nezależnych są lczbam całkowtym. Zadana take można próbować rozwązywać w sposób przyblżony. Wówczas, rozwązane odpowednego problemu cągłego może stanowć oszacowane problemu dyskretnego lub przynajmnej (po przyblżenu do najblższego rozwązana dyskretnego) służy jako punkt początkowy poszukwań. Proste przenesene właścwośc zadań cągłych w ch dyskretna wersję prowadz do zbyt dużych uogólneń. Lnowość T f ( x) = a x+ b Jeśl funkcja celu jest lnowa, to rozwązane zadana wypadne zawsze na grancy obszaru dopuszczalnego (jeśl jest domknęty). Jeśl zbór dopuszczalny D jest neskończonej mary, to ne można wykluczyć sytuacj, że rozwązane ne będze stnało. 3
Wypukłość Jeśl wypukłe są funkcja celu zbór dopuszczalny, to stneje dokładne jedno mnmum. Ułatwene procesu optymalzacj - można go bowem ogranczyć sę do przeszukwana sąsedztwa punktu roboczego wyberana z tego sąsedztwa nowego punktu roboczego. Funkcja jest wypukła (w dół lub w górę) gdy łuk wykresu funkcj łączący dowolne dwa punkty P,Q tego wykresu leży ponżej (powyżej) lub na cęcwe PQ. Dla funkcj różnczkowalnej - Funkcja f(x) jest wypukła w przedzale (a,b) wtedy tylko wtedy, gdy wykres funkcj leży ponad (pod) wykresem stycznej dla każdego punktu x 0 z przedzału (a,b). Różnczkowalność Jeśl w każdym punkce stneje pochodna funkcj to: łatwo znaleźć kerunek zmnejszana sę wartośc funkcj (kerunek poprawy), zerowane gradentu może wskazywać na znalezene mnmum. Warunek Lpschtza Funkcja spełna ten warunek, jeśl stneje taka wartość L <, że dla każdego x 1, x 2 D zachodz f 1 2 1 2 ( x ) f ( x ) L x x Wartość L jest zwana stalą Lpschtza. Jeśl jest znana, to może być podstawą do konstruowana algorytmów optymalzacj, a także umożlwać oszacowane dokładnośc wynku optymalzacj. 4
Właścwość dekompozycj Funkcja taka jest złożenem welu funkcj; wartość każdej z nch można oblczyć na podstawe znajomośc częśc zmennych nezależnych. Zadane znalezena mnmum funkcj można zastąpć weloma zadanam wyznaczena mnmów funkcj z reguły są prostszych do rozwązana. Dekompozycja może prowadzć do zmnejszena wymarowośc wektora argumentów lub też uczynć funkcję mnej skomplkowaną (na przykład dekompozycja na funkcje wypukłe). Wele mnmów lokalnych Są funkcje, które mają wele mnmów lokalnych - funkcje welomodalne. Mnmum lokalne to tak punkt, w którego sąsedztwe o nezerowym promenu ne stneje nny punkt o mnejszej wartośc funkcj celu. Może stneć spójny zbór punktów o jednakowej wartośc funkcj celu, który traktuje sę tak, jakby był jednym punktem nazywa sę go mnmum newłaścwym. W przypadku gdy stneje dokładne jeden punkt nazywa sę go mnmum właścwym. Istnene mnmów lokalnych wynka z: postac funkcj celu, może być także spowodowane właścwoścam zboru dopuszczalnego, na przykład jego newypukłoścą wówczas mnmum lokalne wypadne często na brzegu obszaru dopuszczalnego. Zbory przycągana mnmów lokalnych Zbór wszystkch punktów, które są elementam początkowym cągu zbeżnego do mnmum lokalnego xˆ, nazywamy obszarem przycągana tego mnmum oznaczamy D(x) ˆ). Podzał zboru dopuszczalnego na obszary przycągana generuje rodznę zborów o następujących właścwoścach: suma obszarów przycągana równa jest zborow dopuszczalnemu, obszary przycągana dwóch różnych mnmów lokalnych są rozłączne. 5
OGRANICZENIA FUNKCJI CELU Zbór dopuszczalny może być zdefnowany za pomocą zboru funkcj ogranczeń g h j, spełnających warunek, że dla każdego zachodz x D g 0 h = 0 j RODZAJE ZBIORÓW DOPUSZCZALNYCH Ogranczena kostkowe Ogranczena kostkowe mają postać l x u Ogranczena lnowe Ogranczena lnowe mają postać funkcj lnowej T g ( x) = a x+ b W przestrzen R n, jeśl w zadanu występują wyłączne ogranczena lnowe, zbór dopuszczalny (jeśl jest nepusty) jest wypukły. RODZAJE ZBIORÓW DOPUSZCZALNYCH Wypukły obszar dopuszczalny Kolejnym przypadkem ogranczeń są take, które dają wypukły obszar dopuszczalny. Istneje możlwość transformacj do ogranczeń kostkowych. Newypukły nespójny obszar dopuszczalny. Newypukłość obszaru dopuszczalnego jest utrudnenem dla zastosowana algorytmów optymalzacj, gdyż na ogranczenach może występować jedno lub węcej mnmów lokalnych. RODZAJE ZBIORÓW DOPUSZCZALNYCH Nespójny obszar dopuszczalny Obszar dopuszczalny nespójny to tak który składa sę z odzolowanych podzborów. Oznacza to, że dla każdego punktu dopuszczalnego stneje co najmnej jeden punkt dopuszczalny, którego ne sposób osągnąć dowolne małym krokam, ne pozostając przejścowo w obszarze zabrononym. 6
LICZBA WYMIARÓW wzrost lczby zmennych wzrost komplkacj zadana zadana kombnatoryczne - uzupełnene wektora zmennych nezależnych o jedną zmenną powoduje podwojene lczby różnych wartośc, które może on przyjąć zadana dyskretne - dodane zmennej nezależnej mogącej przyjąć k wartośc będze skutkować k-krotnym zwększenem lczby różnych wartośc funkcje testowe Ackleya, Rastrgna, Grewanka, etc. węcej wymarów węcej mnmów lokalnych ZŁOŻONOŚĆ OBLICZENIOWA Gdy funkcja kosztu pesymstycznego jest welomanem to problemy take nazywamy łatwym określamy klasą P (ang. polynomal), Problemy klasy NP (ang. nondetermnstc polynomal) - dla których pesymstyczna złożoność oblczenowa nedetermnstycznego algorytmu jest funkcją welomanową. Wśród NP ważną rolę pełną problemy NP-zupełne. ALGORYTM DETERMINISTYCZNY W nformatyce to algorytm, którego dzałane jest całkowce zdetermnowane przez warunk początkowe (wejśce). Welokrotne uruchomene da te same wynk. Inne: równoległe rozproszone, probablstyczne, kwantowe. PROBLEMY NP-ZUPEŁNE I NP-TRUDNE Cechy NP-zupełnych: dla żadnego z nch ne udało sę wykazać stnena determnstycznego algorytmu o welomanowej złożonośc, każdy z nch można przekształcć do każdego nnego za pomocą determnstycznego algorytmu o złożonośc welomanowej. Cechy NP-trudnych: trudne to take, do których da sę (za pomocą algorytmu determnstycznego o welomanowej złożonośc) sprowadzć dowolny problem z NP. 7
OCENA ALGORYTMÓW OPTYMALIZACJI Określena jakośc przyblżena maksmum globalnego można dokonać ocenając: odległość od poszukwanego mnmum x x przyblżene wartośc funkcj celu w poszukwanym mnmum f ( x ) f ( x) OCENA ALGORYTMÓW OPTYMALIZACJI marę zboru pozomcowego otaczającego mnmum dokładność odnesona do mary zboru pozomcowego wycętego ze zboru dopuszczalnego { x D: f ( x) f ( x )} D dokładność odnesona do mary zboru pozomcowego wycętego z obszaru przycągana poszukwanego mnmum { x D : f ( x) f ( x )} D ODPORNOŚĆ Chodz o odporność algorytmu na ekstrema lokalne, Czy metoda jest w stane opuszczać" obszary przycągana mnmum lokalnego? Wązałoby sę to ze stwerdzenem, jak często ( czy w ogóle) znajdowane są punkty należące do obszaru przycągana mnmum globalnego, mmo że żaden tak punkt ne był wygenerowany w faze ncjacj algorytmu trudne lub nemożlwe. ODPORNOŚĆ Inny sposób określana odpornośc. Można lczyć, że odporny algorytm pownen generować rozwązana, których położene zależałoby w jak najmnejszym stopnu od stanu początkowego. Oznacza to, że w wynku welu nezależnych uruchomeń należy oczekwać uzyskana zblżonych do sebe rozwązań. 8
KOSZT SYMULACJI Czas procesora neunwersalny, Lczba teracj wygodny, bo na jedna terację składa sę wele dzałań, których sę ne berze pod uwagę, WYKŁAD PRZYGOTOWANO NA PODSTAWIE J. Arabas Wykłady z algorytmów ewolucyjnych, WNT, 2001 Lczba wywołań funkcj celu. 9