Minimalizacja funkcji jednej lub wielu zmiennych. Wykład 13

HTML
DOWNLOAD

Wielkość: px

Rozpocząć pokaz od strony:

Download "Minimalizacja funkcji jednej lub wielu zmiennych. Wykład 13"

Miłosz Urban
7 lat temu
Przeglądów:

1 Minimlizj funji jednej lu wielu zmiennyh Wyłd 3 Optymlizj = wyznzenie minimum funji rzezywistej wielu zmiennyh w dnym oszrze (wrz z puntem w tórym to minimum występuje). Jeśli funj jest nieliniow i zwier wiele minimów lolnyh zdnie jest trudne do rozwiązni. Wyni lolnyh proedur iteryjnyh (tóre opierją się n lineryzji minimlizownej funji w otozeniu wyrnego puntu w przestrzeni n- wymirowej) jest silnie uzleżniony od wyoru modelu strtowego.

2 Metody eliminji (złotego podziłu, Rozpozniemy od metod minimlizji iągłej funji unimodelnej tj tiej tór w przedzile [,] m tylo jedno minimum lolne. Jeżeli zdn funj nie posid tej włsnośi, nleży znleźć jej przedziły unimodlnośi i zstosowć opisywną metodę do żdego z nih. Jeśli dl < x* < zhodzą wruni f() > f(x*) i f(x*) < f() to: - funj m w przedzile [,] minimum w punie x* - potrze trzeh puntów do zlolizowni minimum Funj iągł f w przedzile [,] posid dołdnie jedno minimum x*. Minimum to możn znleźć poprzez olejne podziły zdnego przedziłu. W tym elu nleży olizyć wrtośi funji w dwóh punth x L i x R tih, że < x L < x R <, nstępnie zdć ih wielośi: - Jeżeli f(x L ) > f(x R ), to szune minimum znjduje się w przedzile [x L,]. - Jeżeli f(x L ) < f(x R ), to szune minimum Przedziły [,x R ].i [x L,] zhodzą n sieie. Przedził jest zwężny w stosunu = [,x R ]./ [,] znjduje się w przedzile [,x R ]. x L x R Metod złotego podziłu Wielość otrzymnego w wyniu powyższego postępowni przedziłu po n roh wynosi: ( (n) (n) ) n gdzie jest stłym współzynniiem o tóry zmniejszn jest wielość przedziłów w olejnyh roh lgorytmu. Wrtość współzynni jest dorn w ti sposó, y przy olejnyh iterjh wyorzystywć olizoną w poprzednim rou wrtość funji jednej z dwóh próe (f(x L ) lu f(x R )). Olizmy tę wrtość: xl xr = = zyli xr = xl poniewż f(x L ) > f(x R ) zwężmy przedził do [x L,]. x L x L x R xr = xl x xl x = = = xl xl = + x L ( ) = + x x L L x R = + R L + = 0 = 5 = 0.68

3 Strtegię olizni minimum funji możn zpisć: Jeśli: Jeśli punt. to STOP, w przeiwnym wypdu powtórz Metod interpolji proliznej p + 0 = ( x) = Ax x dp( x) dx = Ax x * = A Funj wystrzjąo głd: w poliżu minimum funj wdrtow jest dorym przyliżeniem prol dopsown do dowolnyh trzeh puntów powinn wszć w jednym rou minimum lo przynjmniej w jego lisie otozenie. * * * * Jeśli p ( x ) = p to p( x) p = A( x x ) Rozwijją dowolną funję f(x) w szereg Tylor otrzymujemy p( x) = p( x ) + ( )( ) + 0 p x0 x x0 p ( x0 )( x x0 ) + K widć, że dl x 0 =x* mmy p (x 0 )=0 i prol lolnie przyliż f(x)

4 Dl trzeh puntów (x,y ), (x,y ) i (x,y ) prol Przehodzą przez te punty ędzie mił postć: y = x x + x x gdzie 0 = y ( ) ( ) + 0 Poniewż dl pozostłyh dwóh puntów mmy: ( x x ) + ( x x ) y ( x x ) + ( x x ) y y + = y + = możemy wyznzyć wrtośi prmetrów i : = C = C gdzie [( x x ) ( y y ) ( x x ) ( y y )] [ ( x x )( y y ) + ( x x )( y y )] C = orz wrtość proli w msimum ( x x )( x x ) ( x x )( x x ) p * = x ( x) = y = x + x 0 p + Metod Brndt (wyorzystują metodę złotego podziłu i interpolji proliznej. Wyznzmy przedził [x,x ].. Wyznzmy metodą złotego podziłu punt x i leżąy w jego wnętrzu ędąy pierwszym przyliżeniem minimum 3. Ponownie stosujemy złoty podził y znleźć x i+ i zdefiniowć nowy, zwężony przedził 4. Wyznzmy prolę i wyznzmy jej minimum x* 5. Jeśli x* leży w osttnio zdefiniownym przedzile orz gdy zmin położeni minimum j mił miejse przy wyonniu osttniej iterji ył mniejsz od połowy zminy położeni minimum w przedosttniej iterji ońzymy proedurę, jeśli tóryś z wrunów nie jest spełniony powrót do puntu 3.

5 Metody minimlizji funji n zmiennyh (minimlizj w przestrzeni n-wymirowej) Numeryzne metody poszuiwni minimum funji wielu zmiennyh możn podzielić n nstępująe lsy: metody poszuiwń prostyh, tie j metod Hoo-Jeves i metod Rosenro metody poprwy ierunów, wśród tóryh możemy wyróżnić nstępująe grupy: metody ezgrdientowe, w przypdu tóryh do znlezieni minimum potrzene jest wyznznie jedynie wrtośi funji f(x), np. metod Guss-Seidel i metod Powell metody grdientowe, dl tóryh w proesie poszuiwni minimum orzystmy z wyznznyh wrtośi minimlizownej funji f(x) orz jej grdientu, np. metod njszyszego spdu i metod grdientu sprzężonego; metody newtonowsie i qusi-newtonowsie, gdzie poszuiwnie minimum przeprowdzmy z wyznzniem w olejnyh punth wrtośi funji, jej grdientu orz hesjnu Dl wszystih typów metod nleżąyh do lsy metod poprwy ierunów wyorzystujemy wspólny shemt prowdzeni olizeń iteryjnyh. Poleg on n tym, że do puntu odpowidjąego minimum funji f(x), dohodzimy w olejnyh roh poszuiwni minimum wzdłuż odpowiednio wyznzonyh ierunów d w przestrzeni n-wymirowej, zwnyh ierunmi poszuiwń. Jeżeli po - roh optymlizji osiągnięto punt poszuiwń x - to w olejnym -tym rou przeprowdz się minimlizję wzdłuż prostej wyznzonej przez punt x - i wetor ierunu d, tj. znjdujemy tą optymln wrtość α, że e ( + α d) α : min f x α wię rozwiązujemy zgdnienie minimlizji funji jednej zmiennej - tą zmienną jest α Kieruni te mogą yć stłe w trie łego iteryjnego proesu poszuiwń minimum ądź też mogą ulegć zminie n olejnyh etph w zleżnośi od wrtośi minimlizownej funji, jej grdientu lu również hesjnu.

6 Iteryjne lgorytmy optymlizji mją nstępująe fzy: wyór puntu pozątowego poszuiwń x 0 wyznzenie olejnego puntu x, stnowiąego przyliżenie minimum x*; punt ten wyznzmy przez poszuiwni wzdłuż ierunu d, tórego oreślenie, j i również odległość przesunięi w tym ierunu są zleżne od wyrnej metody optymlizji; olejny punt, ędąy nowym (lepszym) przyliżeniem puntu minimlizująego funję f(x), jest wyznzny z zleżnośi: x + α = x d sprwdzenie wrunów zieżnośi (ryterium osiągnięi puntu minimlnego wsźni jośi) i w zleżnośi od wyniu ontynuownie poszuiwń iteryjnyh lo ih zońzenie. Wżn uwg: Punt pozątowy wyierny jest n podstwie posidnyh informji dotyząyh położeni minimum (zęsto po prostu losowny). W przypdu minimlizji funji wielu zmiennyh doór puntu pozątowego poszuiwń może w znząy sposó przyspieszyć lu opóźnić znlezienie minimum wsźni jośi lo wręz zdeydowć o możliwośi znlezieni minimum glolnego funji. Minimlizj wzdłuż ierunów współrzędnyh Wetorom zy e i, i=,n przypisujemy ieruni w tóryh odywć się ędzie minimlizj (t j dl przypdu zmiennej). e Algorytm:. Z puntu strtowego x 0 minimlizujemy funję wzdłuż prostej wyznzonej przez e i wyznzmy minimum w punie x. Z puntu x minimlizujemy funję w ierunu e i wyznzmy olejny punt x 3. Kontynuujemy wzdłuż olejnyh osi i osttezne znjdujemy punt x N 4. Powrmy do minimlizji wzdłuż ierunu e i powtrzmy proedurę olejny rz 5. Minimlizj ońzy się gdy spełniony jest wrune: f ( x ) f ( x ) < ε f ( x ) t n n n + gdzie ε jest dołdnośią reprezentji mszynowej liz użytą w olizenih t prmetrem doiernym indywidulnie. x x 0 x e

7 Metod ierunów sprzężonyh (Powell') Metod ierunów sprzężonyh jest ezgrdientową, iteryjną metodą optymlizji ez ogrnizeń. Dl form wdrtowyh jest on zieżn w N roh. W metodzie Powell' z zmieni się w trie wyonywni lgorytmu. Modyfij zy poleg n stworzeniu i dodniu do niej nowego sprzężonego ierunu i równozesnym usunięiu z niej tiego ierunu, wzdłuż tórego nstąpiło njwięsze przesunięie. Metod ierunów sprzężonyh (Powell') Algorytm:. x p := x. Dl żdego z ierunów =,,..., N wyiermy optymlny ro m doonują minimlizji jednowymirowej wzdłuż ierunu e 3. x := x + m e + m e m N e N 4. Wyznz ierune sprzężony e i podstwimy N + = x x p x x p x := x + m N+ e N+, gdzie m N+ jest optymlnym roiem uzysnym w wyniu minimlizji funji g(m N+ )=f(x+m N+ e N+ ) 5. Jeżeli x x p < ε (zhodzi wrune stopu) to onie olizeń 6. x p := x 7. wyznzmy numer ierunu ( N), w tórym nstąpiło njwięsze przesunięie (ierune dl tórego m yło njwięsze) 8. Jeżeli m d x x p ε (wyznzni dl nowej zy - stopień liniowej niezleżnośi - jest ezpieznie duży), to zmień zę: e := e N+ i d := m d x x p 9. przejdź do pt.

Podobne dokumenty

Minimalizacja funkcji jednej lub wielu zmiennych

Minimalizacja funkcji jednej lub wielu zmiennych Mnmlzj funj jednej lu welu zmennyh Otymlzj wyznzene mnmum funj rzezywstej welu zmennyh w dnym oszrze (wrz z untem w tórym to mnmum wystęuje). Jeśl funj jest nelnow zwer wele mnmów lolnyh zdne jest trudne