Zaawansowane metody numeryczne

Transkrypt

1 Zaawansowane metody numeyczne Optymalzacja Plan wykładów:. Wstęp 2. Pogamowane lnowe 3. Metoda SYMPLEX 4. Zagadnene dualne 5. Pogamowane nelnowe 5. Metody D 5.2 Metody welowymaowe - bezgadentowe - gadentowe 6. Optymalzacja globalna 6. Metoda symulowanego wyżazana 6.2 Metody Monte Calo pokewne - algoytm Metopolsa-Hastngsa - algoytmy ewolucyjne

2 Optymalzacja wg słownka języka polskego (PWN) to :.«oganzowane jakchś dzałań, pocesów tp. w tak sposób, aby dały jak najwększe efekty pzy jak najmnejszych nakładach» 2.«poszukwane za pomocą metod matematycznych najlepszego, ze względu na wybane kyteum, ozwązana danego zagadnena gospodaczego, pzy uwzględnenu okeślonych oganczeń» Nas oczywśce nteesować będą wszystke zagadnena, któe mogą być modelowane funkcją jednej lub welu zmennych. Ścśle: Nech dla danej pzestzen metycznej Ω: Ω = ( U, ) gdze U jest zboem agumentów zaś D jego podzboem D U, zaś metyką, funkcja f: f ( x) : U R nazywana jest funkcją celu (lub wskaźnkem jakośc). Zadane optymalzacj polega na znalezenu takego punktu x* D, że zachodz: x* = ag mn f x x D ( ) Często (szczególne w fzyce geofzyce) zamast o zagadnenu optymalzacj mówmy o tzw. zagadnenu odwotnym. Często w tym kontekśce jest ono pzedstawane w połączenu z zagadnenem postym (czasem zwązanym z modelowanem) ZAGADNIENIE PROSTE (ang. fowad poblem) model + paamety modelu dane (ośodek, funkcja źódła, tp.) m d ( m m,, m ) ( d, d,, ), 2 M 2 d N ZAGADNIENIE ODWROTNE (ang. nvese poblem) dane paamety modelu model d m

3 Model dysketny: d = d, d2,, d N syn syn syn syn d = [ d ] T, d2,, d N m = m, m2,, Dane: obs obs obs obs [ ] T m M Paamety modelu [ ] T Zwązek danych z paametam modelu podawany jest popzez zwązek: F = syn ( m, d ) 0 Postsze fomy ównana: d d syn syn = g = Gm ( m) g G funkcja nelnowa macez Paamety modelu są okeślane na dodze mnmalzacj nomy z óżncy: e = d obs d syn Najczęścej stosuje sę jedną z nom L p : N p p : e = p = L p e Im wększe p tym wpływ dużych błędów na ozwązane jest wększy. Noma L REASUMUJĄC Jeśl to e mn tue m m L : e = N e = jest najmnej czuła na duże watośc óżnc (odchyłek).

4 lka defncj o ogólnym chaakteze Zadane cągłechaakteyzuje sę cągłą pzestzeną pzeszukwań jest ona loczynem katezjańskm zbou lczb zeczywstych U=R n. Wśód tych zadań wyóżna sę zadana optymalzacj wypukłej (kojazone często z optymalzacją lokalną(zbó dopuszczalny funkcja celu są wypukłe) zadana optymalzacj globalnej(zbó dopuszczalny lub funkcja celu ne są wypukłe). Optymalzacja dysketnato optymalzacja w któej zbó watośc zmennych nezależnych x jest zboem dysketnym (skończonym lub pzelczalnym) U=Z n. Dla optymalzacj kombnatoycznej każda ze zmennych nezależnych pzyjmuje watośc bnane (np. pawda lub fałsz). Metody ozwązana zadana optymalzacj/nwesj zależą od odzaju funkcj celu zastosowanych oganczeń. Dla lnowej funkcj celu oaz lnowych oganczeń (tzw. pogamowane /pogam lnowy ) stosuje sę najczęścej algoytm SIMPLEX. Poszukuje on ozwązań na bzegu obszau dopuszczalnego. Funkcja jest wypukła gdy: 2 x, x D α : 0 < α < af 2 2 ( x ) + ( α ) f ( x ) > f ( ax + ( α ) x )

5 Dla zagadneń optymalzacyjnych z wypukłą funkcją celu stosuje sę metody bezgadentowe, gadentowe newtonowske. Polegają one na poszukwanu mmmalnejwatośc na pzekoju funkcj celu popowadzonym w okeślonym keunku. Po znalezenu mnmum wyznacza sę kolejny pzekój pzechodzący pzez ten punkt ponowne poszukuje sę mnmum. Poszczególne metody óżną sę mędzy sobą sposobem wyznaczana keunków kolejnych pzekojów. Wyóżnamy medzy nnym : metody poszukwań postych (wzdłuż os układów współzędnych) metody keunków spzężonych (kolejne kok są zdetemnowane popzednm keunkam) metoda najwększego spadku(keunek wyznaczany na podstawe gadentu funkcj) metoda gadentów spzężonych (keunek wyznacza sę ówneż na podstawe gadentów) metody pseudonewtonowska newtonowska (wykozystują macez odwotną do macezy Jacobego gadent) metoda zmennej metyk Optymalzacja globalna jest zwązana z zagadnenam mnmalzacj funkcj celu, któa posada węcej nż jedno mnmum lokalne. Ta cecha funkcj celu unemożlwa stosowane metod używanych dla wypukłych funkcj celu. Istneje wele metod optymalzacj globalnej. Z eguły dają one ozwązana pzyblżone stąd nekedy są uzupełnane na ostatnm etape metodam lokalnym.

6 Pewszą gupą są metody welostatowe (czasem nazywane metodam Monte Calo). Odpowedno dobany algoytm losuje ozwązane statowe z tego punktu powadzona jest mnmalzacja lokalna. Po osągnęcu mnmów lokalnych (x, x 2,.,x n ) wybeane jest to o najmnejszej watośc uznawane jest za mnmum globalne. x 5 x x 3 x 2 Inne metody symulują uch punktu matealnego obdazonego pewną bezwładnoścą, któa zapobega ugzęźnęcu punktu w mnmum lokalnym. Inną metodą jest metoda błądzena pzypadkowegow któej położene nowego ozwązana geneowane jest z założonego ozkładu pawdopodobeństwa, nezależne od watośc funkcj celu. x 6 x 4 W metodze symulowanego wyżazana to wesja błądzena pzypadkowego w któej nowe ozwązane jest akceptowane jeśl zmnejsza watość funkcj celu. Jeśl ne to jest akceptowane z pawdopodobeństwem: p a = exp( f / T ) gdze lcznk jest óżncą watośc funkcj celu w staym nowym punkce zaś Tjest paametem zwanym tempeatuą. W powyższych metodach pzetwazany jest pojedynczy punkt. Istneje szeeg metod w któych pzetwazana jest cała populacja punktów. Należą do nch metody wykozystujące analoge pzyodncze. Można ozóżnć dwe gupy: Algoytmy genetyczne/ewolucyjne. Genetc algothm 2. Genetc pogammng 3. Evolutonay pogammng 4. Gene expesson 5. Evoluton stategy 6. Dffeental evoluton 7. Neuoevoluton 8. Leanng classfe system Wszystke uwzględnają nteakcję pomędzy osobnkam populacj / oju tak by zapewnać szybke pecyzyjne pzeszukwane mnmów lokalnych, uwzględnając w ten czy nny sposób jego wewnętzną ntelgencję. Algoytmy oju Smulated annealng 2 Ant colony optmzaton 3 Patcle swam optmzaton 4 Hamony seach 5 Atfcal bee colony algothm 6 Bees algothm 7 Glowwom swam optmzaton 8 Shuffled fog leapng algothm 9 Impealst compettve 0 Rve fomaton Intellgent wate dops algothm 2 Gavtatonal seach algothm 3 Cuckoo seach 4 Bat algothm 5 Flowe pollnaton algothm 6 Cuttlefsh optmzaton algothm 7 Atfcal swam ntellgence

7 Mnmalzacja odbywa sę najczęścej z wykozystanem oganczeń funkcj celu. Wykozystuje sę w tym wypadku funkcje g (x)oaz h (x)spełnające waunk: Pzykłady: - Oganczena kostkowe g h l x u ( x) 0 ( x) = 0 - Oganczena lnowe g T ( x) = a x b + - Oganczena wypukłe - Oganczena nespójne - Oganczena newypukłe Istotnym jest by zauważyć, że oganczena newypukłe na funkcj celu mogą podukować mnma lokalne zlokalzowane najczęścej na bzegu obszau dopuszczalnego.

8 Poblem lczby wymaów zagadnena. ażdy paamet jak należy zdentyfkować twozy dodatkowy wyma. Zagadnene mnmalzacj funkcj 2 zmennych z okeślonym obszaem dopuszczalnym zawsze może ozwązane metodą Monte Calo losujemy ozkładem ównomenym ozwązana punkty na płaszczyźne spawdzamy watośc funkcj celu dla tych punktów. Pojawa sę pytane jeśl ośne lość wymaów zadana optymalzacyjnego łatwej czy tudnej w losowanu tafć we właścwe mnmum (lub jego sąsedztwo)? Rozpatzmy oganczena kostkowe o dentycznych oganczenach w każdym wymaze. Twozą one kwadat, sześcan kolejno n-hpesześcany. Jakość tafena w mnmum można oszacować welkoścą otoczena (sąsedztwa) punktu w któym ulokowane jest mnmum. Dla dwóch wymaów otoczene jest kołem, dla tzech kulą td. Pawdopodobeństwo tafena w losowanu z zastosowanem oganczeń kostkowych w otoczene kulste można polczyć jako stosunek pól lub objętośc. I tak dla dwóch wymaów wynos π/4, dla tzech -π/6 td. Wdać, że coaz tudnej ze wzostem wymaów tafć w otoczene czyl metoda MC jest dla dużej lczby paametów wysoce neefektywna. Zadana (optymalzacja) welokytealne Zadane zwązane z mnmalzacją węcej nż jednej funkcj celu w celu odzyskana dokładne tego samego zbou paametów lub częścowo pokywającego sę zbou paametów. Inaczej jest to znalezene optymalnego ozwązana, któe jest akceptowalne z punktu wdzena każdego kyteum (każdej funkcj celu). Pzykład : S G G 2 G 3 G 4 B M N B h, v, ρ h 2, v 2, ρ 2 h, ε h 2, ε 2 h 3, v 3, ρ 3 h 3, ε 3 v 4, ρ 4 ε 4 Wykonujemy pomay paametów ośodka dwom metodam: sejsmczną geoelektyczną. Paamety ośodka mogą być otzymane w wynku ozwązana zagadnena nwesj w każdej z metod. Pzykład 2:Akcje papeów watoścowych notowanych na gełdze óżną sę m.n. pozomem yzyka entownoścą (cena/zysk). Z eguły zmnejszane yzyka pocąga za sobą wzost entownośc. I na odwót Szukamy takch papeów watoścowych dla któych ne stnałyby papey z jednocześne mnejszym yzykem wększą entownoścą. Fg.5

9 Optymalzacja welokytealna póba znalezena wektoa paametów: x = [x,x 2,...,x k ], któy spełna okeślone waunk: g (x) 0 ( =... m), h (x) = 0 ( =... p) oaz optymalzuje wekto funkcyjny, któego elementy epezentują funkcje celu: f(x) = (f (x),f 2 (x),...,f k (x)) Jednym z klasycznych podejść do ozwązana zagadnena nwesj połączonej jest mnmalzacja skalanej funkcj będącej połączenem cząstkowych funkcj celu, właścwych dla używanych metod pomaowych. Jest to tak zwana metoda skalayzacj poblemu MOP spowadzająca zagadnene wspólnej mnmalzacj welu funkcj celu do mnmalzacj jednej funkcj skalanej. Jest ona wagowaną sumą funkcj to znaczy: mn f x X ( x) = w f ( x) = gdze w = [ w,,, ] 0 jest wektoem współczynnków wagowych pzyjętych w2 wn a popzed ozpoczęcem pocesu mnmalzacj. Jeśl stneje zbó kompletnych ozwązań optymalnych zagadnena optymalzacj welokytealnejto mnmalzacja wagowanej sumy funkcj kytealnych (funkcj celu) będze powadzła do tego ozwązana nezależne od użytych współczynnków wagowych w. Jeśl ne stneje jedno kompletne ozwązane optymalne zagadnena optymalzacj welokytealnej to mnmalzacja wyażena (9), dla konketnego zestawu współczynnków wagowych, będze powadzć do ozwązań uzależnonych od watośc pzyjętych współczynnków ne pzyjmujących optymalnych.

10 Jeśl funkcje f ( x), =, są funkcjam celu dla metod podlegających nwesj połączonej, to mnmum wektoa f( x) = [ f ( x), f ( x),, f ( x) ], dla x = [ x, x, 2 2, x N ] tj. : ( x) = [ f ( x), f ( x),, f ( x) ] mn f 2 x X gdze Njest loścą paametów modelu zaś zbó x = [ x, x2,, x N ] jest zboem ozwązań dopuszczalnych stosowanego algoytmu stochastycznego (np. jednego z algoytmów ewolucyjnych). Rozwązana dopuszczalne to ozwązana dopuszczone pzez węzy nałożone na zagadnene optymalzacyjne. Jak wdać z powyższych okeśleń funkcja wektoowa x = [ x, x, 2, x N ] mapuje zbó dopuszczalnych ozwązań z pzestzen paametów R N do pzestzen ozwązań R Pzestzeń ozwązań dopuszczalnych Pzestzeń funkcj celu Powyższe ozwązane zagadnena MOP jest nazywane kompletnym optymalnym CO jeśl : x X < < x X : ( x ) ( x) f f W nwesj połączonej badzo często ne można znaleźć żadnego ozwązane kompletnego optymalnego, tzn. takej kombnacj paametów dla któych ównocześne mnmalzowane będą wszystke funkcje celu. W zwązku tym zapoponowano nne podejśce do nwesj tego typu. Fomalne defnujemy dwa ozwązana Paeto: słabe WP optymalne P. Manowce ozwązane nazywamy słabym ozwązanem Paeto jeśl : ( x) < ( x ) ~ x X < < X : f f Z kole nazywamy optymalnym ozwązanem Paeto jeśl: ~ x X < < X : f ( x) f ( x ) < j < : f ( x) f ( x ) j j

11 Oznaczamy te zboy ozwązań tadycyjne jako: X CO, X WP X P. Nazywa sę je zboem optymalnych ozwązań, zboem słabych ozwązań Paeto(słabym zboem Paeto) zboem ozwązań Paeto(zboem Paeto). Z pzedstawonych defncj wynka, że: X CO X P X WP W pzecweństwe do ozwązana CO, któe może ne stneć, ozwązana WP P stneją zawsze. Analzując defncje słabego optymalnego ozwązana Paetomożna wnoskować, że ozwązana Paetosą ozwązanam kompomsowym w tym sense, że ne jest możlwa popawa ozwązana ze zbou Paeto, w sense zmnejszena watośc pewnej funkcj celu, bez zwększena watośc nnej z nch. Posługwane sę jedną, wybaną funkcją celu bądź tylko ch wybanym podzboem do oceny jakośc ozwązań nwesj połączonej może dopowadzć do sytuacj, że wybane na tej podstawe ozwązane będze wysoce neoptymalne dla pozostałych funkcj celu. By zmnmalzować poblemy tego typu do analzy jakośc ozwązań zagadneń nwesj połączonej posługujemy sę pojęcem fontu Paeto. Jest on defnowany jako: FP = f x = f x, f x,, f P x x X { ( ) [ ( ) ( ) ( )] } : 2 Analza fontu Paeto, najczęścej gafczna popzez jego wykeślene w pzestzen funkcj celu pozwala na oszacowane typów zwązków pomędzy poszczególnym zboam Paetoa tym samym pozwala na wycągane wnosków dotyczących kompomsów pomędzy poszczególnym metodam nwesj połączonej. Można łatwo zauważyć, że font Paeto wyznacza ganczne pay watośc mnmalnych funkcj celu, mnmalnych w tym sense, że dalsze zmnejszene dowolnej z funkcj celu spowoduje wzost co najmnej jednej z pozostałych funkcj celu. Pozwala to ocenć jakość ozwązana połączonego zagadnena odwotnego czyl spawdzć jak dobe jest wybane ozwązane (np. konketny model geologczny bądź geofzyczny) w poównanu z nnym ozwązanam w sense Paeto optymalnym.

12 W stateg Paetodo pzepowadzena angowanaozwązań jednocześne dla welu metod występujących w nwesj połączonej ponowne kozysta sę z de zaczepnętych od Paetoa manowce z pojęca domnacj wektoów. Mówmy, że wekto jeśl f ( x) = [ f ( x) f ( x),, f ( x) ] domnuje wekto g( x) = [ g ( x) g ( x),, g ( x) ], 2 < < X f ( x) g ( x) < j < : f ( x) < g ( x) : j j, 2 Posługując sę tym kyteum można wykonać angowaneozwązań (dopuszczalnych model) nezależne od wymau zadana to znaczy dla dowolnej skończonej lośc metod użytych w nwesj połączonej. Po wykonanu angowana poszczególne modele są ustawone w kolejnośc uzależnonej od stopna dostosowana do poszczególnych funkcj celu. Wato zaznaczyć, że w populacj osobnków w danej teacj może zastneć sytuacja, gdy osobnk będą óżnć sę dopasowanem tylko dla jednej funkcj celu. Pozostałe funkcje celu będą osągać swoje mnma globalne. Jeśl taka sytuacja zastneje to osobnk te utwozą font Paeto. Z eguły jednak algoytmy ewolucyjne będą stochastyczne geneować dużą lczbę ozwązań któa będze sę gupować w poblżu fontu Ponżej pzedstawono pzykład fomowana sę fontu Paetodla danych syntetycznych zeczywstych (Dal Moo, Ppan, 2007). Pzykład dotyczy nwesj połączonej kzywych dyspesj fal powezchnowych klasycznej metody sejsmk efleksyjnej (metoda ejestująca czasy popagacj podłużnych popzecznych fal odbytych). Po wygeneowanu populacj statowej wykonywane jest angowane model zgodne ze stategą Paeto. Następne (zgodne z powyższym opsem) powadzone są opeacje selekcj, kzyżowana mutacj powadzące do powstana populacj potomnej. Po pzepowadzenu klkunastu teacj fomułuje sę font Paeto.

13