Nelnowe zadane optymalzacj bez ogranczeń numeryczne metody teracyjne optymalzacj mn R n f ( ) = f Algorytmy poszuwana mnmum loalnego zadana programowana nelnowego: Bez ogranczeń Z ogranczenam Algorytmy zbeŝne do mnmum loalnego *, jeŝel ta punt stneje. Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
I. Techn optymalzacj loalnej Ad.I Iteracyjne algorytmy optymalzacj Algorytmy optymalzacj w erunu Algorytmy optymalzacj bez ogranczeń Algorytmy optymalzacj z ogranczenam Algorytmy zbeŝne do mnmum loalnego *, jeŝel ta punt stneje. Algorytm optymalzacj loalnej - przemerzane obszaru rozwązań dopuszczalnych w poszuwanu estremum funcj celu według teracyjnego schematu. Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Schemat algorytmu optymalzacj loalnej bez ogranczeń () Wyberz punt startowy o=. () Oblcz wartość funcj f( ) oraz jeŝel jest to wymagane to jej gradent f( ) (3) Zbadaj przyjęte ryterum zbeŝnośc. Jeśl ryterum jest spełnone to onec algorytmu uzysano rozwązane optymalne optymalną wartość funcj celu f( ) JeŜel ne, to przejdź do (4) (4) Wyznacz ustalony erune poszuwań : d (5) Wyonaj mnmalzację erunową wybraną metodą: + T (, d ) (6) Podstaw + oraz + przejdź do () Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Do mnmalzacj w erunu moŝna uŝyć lu algorytmów tach ja np.: Algorytmy bez-gradentowe: złotego podzału, aprosymacj wadratowej, Algorytmy gradentowe: espansj ontracj geometrycznej z testem jednosośnym, logarytmczny złoty podzał odcna ze wstępną espansją ontracją geometryczną, aprosymacj parabolcznej z testem jednosośnym, bsecj z testem dwusośnym Goldsten a,
Iteracja metody poszuwana mnmum w erunu Przebeg typowej -tej teracj dowolnej metody realzującej deę poszuwana wzdłuŝ erunu:. Oreśl erune poszuwań d. α ~ = α.. Znajdź mnmalzujące f ( α ) f ( + αd ) ze względu na 3. Podstaw = + αd +. Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
ZbeŜność cągu puntów { } Defncja. Mówmy, Ŝe cąg puntów = jest zbeŝny do puntu jeŝel cąg róŝnc -tych przyblŝeń puntu optymalnego (puntu mnmum) h = zbega do zera, co w n przestrzen R oznacza, Ŝe h 0 Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Krytera zbeŝnośc:. Test teoretyczny f fˆ ε ˆ, ε. PrzyblŜona stacjonarność rozwązana f ( ) 3. Testy pratyczne: = g g ε lub + ε, =,..., n f f + ε Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Algorytmy optymalzacj loalnej Algorytmy bezgradentowe Algorytm Hooe a-jeeves a Algorytm Nelder -Meade a Algorytm Gauss a-sedla Algorytm Powella Algorytm Zangwlla Algorytmy gradentowe Algorytm najwęszego spadu Zmodyfowany algorytm Newtona Algorytm Fletchera-Reeves a Algorytm Polaa-Rbery Algorytm Fletchera-Powella-Davdona Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Algorytm Gauss a-sedela Istotą metody jest mnmalzacja funcj f() wzdłuŝ olejnych erunów ortogonalnej bazy, tóra utworzona jest z wersorów uładu współrzędnych artezjańsch. Algorytm Gaussa-Sedela polega na cylcznym stosowanu odwzorowana T do erunów. Wyonane jednego taego cylu nazywa sę -tą terację. Odwzorowane T: T (, d ) = { } + + + : f ( = mnf ( + τd ), = + τd τ σ Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Algorytm oblczeń metoda Gauss a-sedla () Wyberz punt startowy o =. Oblcz wartość funcj f( ) () Zbadaj ryterum zbeŝnośc: + + ε, =,..., n oraz f f ε gdze ε [0, δ ] np.: ε = 0 6 Jeśl ta, to onec, jeśl ne, to przejdź do (3) Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
(3) Wyznacz erune poszuwań : są to olejne erun ortogonalnej bazy d =e Np. e = [,0,...,0] (4) Wyonaj mnmalzację erunową wybraną metodą: + T (, d ) (5) Podstaw + oraz + powtórz () Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Metoda najwęszego spadu NS jest to metoda gradentowa, tóra pozwala szuać mnmum róŝnczowalnej funcj nelnowej f(). Koncepcja metody wyna z lematu, w tórym wyazano, Ŝe jeśl stneje erune d w R przestrzen ta, Ŝe n f ( ), d < 0 to f ( +τd) < f ( ) Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Algorytm oblczeń metoda NS () Wyberz punt startowy o =. Oblcz wartość funcj f( ) oraz jej gradent f( ) () Zbadaj ryterum zbeŝnośc: f ( ), f ( ) = 0 czyl f ( ), f ( ) ε gdze ε [0, δ ] np.: ε = 0 6 Jeśl ta, to onec, jeśl ne, to przejdź do (3) Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
(3) Wyznacz erune poszuwań : d = f ( ) (4) Wyonaj mnmalzację erunową wybraną metodą: + T (, d ) (5) Podstaw + oraz + powtórz () Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Do mnmalzacj w erunu zastosowano gradentowy algorytm bsecj z testem dwusośnym Goldsten a :
Algorytm bsecj z testem dwusośnym Golsten a algorytm gradentowy Pratyczne do wyszuana puntów spełnających test dwusośny Goldstena stosuje sę następujący algorytm bsecj: p= f ( () Oblcz pochodną w erunu oraz współczynn o ) T d rou 0 τ R > 0 ta, Ŝe f ( + τ Rd ) < f ( 0 ) 0 () Wyznacz τ = ( τl+ τr ). Oblcz f ( + τd). 0 0 f ( + τd) < f ( ) + ( β ) pτ τ τ (3) Jeśl to podstaw L przejdź do rou (), w przecwnym raze przejdź do rou (4) 0 τ τ 0 f ( + τd) > f ( ) + βpτ (4) Jeśl to podstaw przejdź do rou (), w przecwnym przypadu onec. R Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Dzałane algorytmu bsecj z testem dwusośnym Goldsten'a dla funcj: f(, ) = ( ) + ( ) 6 + punt początowy 0 = [0, 0] T erune d = [, 0] T współczynn testu β = początowa wartość współczynna rou τ R = 9 doładność dla testu 5 ε =0 5 Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya Pochodna w erunu zatem mamy: dla = 0 = [0, 0] T Otrzymujemy wartość pochodnej p: d f p o ) T ( = + + = =,4 6 ) (, ) ( ) ( f f f [ ] 6,0 ) ( 0 = f 6 0 0] 6 [ ) ( = = = d f p T o
() Oblczamy τ 0 τ = ( τl+ τr ) oraz f ( + τd). ( τ ) = = R (9) = 4,5 f ( 0 + τd) = f (0,0) + (4,5,0) = 0,5-7= - 6,75 Przechodzmy do rou (3) Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
(3) JeŜel to podstaw f ( 0 + τd) < f ( 0 ) + ( β ) pτ τ L τ przejdź do rou (). W przecwnym wypadu przejdź do rou (4) sprawdzamy: -6,75 <? ( 0,6) (4,5) = 6, 0+ ( 6) NIE Przechodzmy do rou (4) Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
(4) JeŜel to podstaw przejdź do rou (). W przecwnym wypadu KONIEC sprawdzamy: -6,75 >? TAK przechodzmy do rou () DRUGA ITERACJA (...) 0 0 f ( + τd) > f ( ) + βpτ τ τ R Po trzecej teracj otrzymujemy wyn τ=3,375 ( 0,4) (4,5) = 0, 8 0+ ( 6) Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Dzałane algorytmu najszybszego spadu dla funcj: f(, ) = ( ) + ( ) punt początowy 0 = [, 3] T współczynn testu β = 4 początowa wartość współczynna rou τ R =
Oblczamy PonewaŜ perwsza stosowana wartość współczynna rou τ R = spełna test dwusośny Goldstena, węc: = 0 + τ 0 d 0 = [0 ] T W drugej teracj mamy: Otrzymujemy: p d 0 = f ( 0 ) = [, ] T d = f ( ) = [ ] T f ( + τd ) = 0τ 8τ + T = f ( ) d = [ ] = 8 Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Zatem test dwusośny ma postać -6 0τ - 8τ - Za pomocą algorytmu bsecj (test dwusośny Goldstena) w trzecej próbe znajdujemy wartość współczynna τ = 0,5 Stąd = + τ d = [ ] T Postępując zgodne z algorytmem otrzymujemy olejne wartośc puntów optymalzowanej funcj. Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Kolejno podane są punty wyznaczone za pomocą algorytmu najszybszego spadu dla funcj: f(, ) = ( ) + ( ) 0 = [ 3] = [0 ] = [ ] 3 = [ ] 4 4 = [ 4 4 ] td... I ta olejno, aŝ do momentu gdy zostane spełnony warune f ^ ( ), f ^ ( ) < ε = 0 3 Ta uzysano rozwązane optymalne =[0,0] f( )=0. Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Funcja celu f() M Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Kolejne teracje metody najwęszego spadu NS 0 3 5 4 ^ Teora metody Moptymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Algorytmy optymalzacj z ogranczenam W celu uwzględnena ogranczeń moŝna postąpć w ponŝszy sposób: doonać transformacj zmennych decyzyjnych doonać transformacj funcj celu wprowadzając funcje ary. Przyłady transformacj zmennych dla typowych ogranczeń:.. 3. 0 0 a b = u = u = ep = sn u ( u ) ep( u ) = ep( u ) + ep( u ) = a + ( b a ) sn ( u ) Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Algorytmy optymalzacj z ogranczenam cd. Transformacja funcj ryteralnej: m P(, σ, θ ) = f ( ) + σϕ( g ( ) + θ ) H ( g ( ) + θ ) = Funcja ary charateryzuje sę tym, Ŝe w zborze rozwązań dopuszczalnych X przyjmuje wartość równą zeru lub blsą zeru, a poza tym obszarem przyjmuje bardzo duŝe wartośc. Gdze: σ >, σ = [ σ, σ,..., σ ] jest wetorem współczynnów ary 0 m θ >, θ = [ θ, θ,..., θ ] 0 m φ( ) funcja ary jest wetorem przesunęć ary ϕ ( g ( ) + θ ) : np. ( g ( ) + θ ) lub ( g ( ) + θ ) Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya
Algorytmy optymalzacj z ogranczenam cd. Funcja H ma ponŝszą własność: H ( g ( ) + θ ) = 0 dla dla g g ( ) + θ > 0 ( ) + θ 0. Metody zewnętrznej funcj ary (metoda Couranta, metoda Schmta Foa). Metody wewnętrznej funcj ary (metoda Rosenbroca, metoda Carolla) 3. Metody przesuwanej funcj ary (metoda Powella). Teora metody optymalzacj Dr nŝ. Ewa Szlachcc Wydzał Eletron studa II st. er. Automatya Robotya