2. Optymalizacja bez ograniczeń

Transkrypt

1 2. Optymalizacja bez ograniczeń 1. Podaj definicję ścisłego minimum lokalnego zadania 2. Podaj definicję minimum lokalnego zadania 3. Podaj definicję ścisłego minimum globalnego zadania 4. Podaj definicję minimum globalnego zadania 5. Dane jest zadanie minimalizacji funkcji f dwukrotnie ciągle różniczkowalnej. Napisać warunki konieczne optymalności w punkcie x dla zadania.

2 6. Dane jest zadanie minimalizacji funkcji f dwukrotnie ciągle różniczkowalnej. Napisać warunki dostateczne optymalności w punkcie x dla zadania co to wszystko znaczy? g to gradient f(x),czyli po prostu macierz pochodnych. Dla f(x1,x2) zapisujemy: g=[df(x)/x1 ; df(x)/x2] G to macierz hesjanu, czyli w skrócie drugich pochodnych. Troche trudniej sie liczy G = [ df(x)/x1x1 df(x)/x1x2; df(x)/x2x1 df(x)/x2x2] Uff.Zawsze miałem problemy z analizą. Teraz opis warunków. g=0 czyli wszystkie pochodne w tym punkcie sie zerują Drugi warunek, to to, że macierz ma być ściśle dodatnio określona. Straszne słowo. Jak to zbadać? Dla nas jest ważne, aby sprawdzić, czy wszystkie minory główne macierzy G są większe od 0. Co to znowu minor? Za wikipedią: Minor stopnia k macierzy A o m wierszach i n kolumnach, to wyznacznik macierzy kwadratowej stopnia k powstałej z macierzy A przez skreślenie (m-k) wierszy i (n-k) kolumn. Minorami stopnia k=1 są komórki macierzy. Gdy indeksy skreślanych macierzy i kolumn są identyczne, to jest to minor główny. Np w macierzy o 3 wierszach i 3 kolumnach, minorem głównym jest na przykład minor: utworzony z przecięcia kolumn i wierszy o numerach 2 i 3 (czyli po wykresleniu 1 wiersza i 1 kolumny). Zreszta w wikipedii jest to ładnie wyjaśnione. Głupie minory. Aha przykład dla macierzy : [A B; C D] mamy tylko k=1, czyli skreślamy, albo pierwszy wiersz i pierwszą kolumnę, albo drugi wiersz i drugą kolumnę. Minorami zatem są A i D i to o nie nam będzie chodzić.

3 Zgodnie z podanym w zad.6 wzorem sprawdzamy czy g = = 0? Równa się, więc został nam jeszcze drugi warunek: Zgodnie z zadaniem 6 minorami głównymi są tu 802 i 200, oba dodatnie więc warunek spełniony. Uwaga! Do zweryfikowania, bo sam to robiłem ;) Warunek stacjonarności to znaczy, że g = 0 Sprawdźmy zatem, czy pochodna naszej funkcji się zeruje w tym punkcie. Zgodnie ze wzorem nad zadaniem 5 mamy: df x / x1= x 1 2x 2 3x 1 df x / x2= 2x 1 2x 2 4 g=[df(x)/x1 ; df(x)/x2 ] = [1 +2-3; ]= [0 ; 0] ergo, jest punktem stacjonarnym. Z określeniem typu jest gorzej Trzeba znów sprawdzić określoność macierzy hesjanu (czyli G). Czyli sprawdzamy, czy minory główne są doatnie, czy ujemne. Mamy trzy przypadki: G > 0 (macierz dodatnio określona), punkt sracjonarny to minimum G < 0 (macierz ujemnie określona), punkt stacjonarny to maksium G ( ani taka, ani taka??) (macierz nieokreślona), punkt stacjonarny to punkt siodłowy Mamy zatem (Zgodnie z wzorami z zad.6): G = [ df(x)/x1x1, df(x)/x1x2; df(x)/x2x1, df(x)/x2x2] G =[1-3, -2 ; -2, 2]

4 Minory główne, to lewy górny i prawy dolny róg macierzy. Czyli 1 i 2, więc G > 0. Mamy tu minimum. Podobnie jak powyżej mamy: df x / x1= x 1 x 2 1 df x / x2= x 1 2x 2 3 g= [1-2 -1; ] = [-2 ; 6] co nijak się nie równa 0, czyli to nie jest punkt stacjonarny.nie trzeba się martwić, jakiego jest typu. :) Jak powyżej mamy: df x / x1= x 1 x 2 1 df x / x2= x 1 2x 2 3 g= [ ; ] = [0 ; 0] czyli wyszło, że stacjonarny. Sprawdźmy jeszcze typ, tak jak każą. G= [ -1, 1 ; 1-2]. Minory główne ( lewy górny i prawy dolny róg) są ujemne, G < 0 czyli mamy tu maksimum. 11. Zdefiniuj, co oznacza pojęcie liniowej szybkości zbieżności. 12. Zdefiniuj, co oznacza pojęcie Q-superliniowej szybkości zbieżnosći.

5 13. Zdefiniuj, co oznacza pojęcie kwadratowej szybkości zbieżności. 14. Podaj wzór definiujący kierunek poszukiwań w metodzie Newtona. 15. Dane jest zadanie minimalizacji funkcji f ciągle różniczkowalnej. Podaj definicję kierunku poprawy w punkcie x^k. 16. Dane jest zadanie minimalizacji funkcji f ciągle różniczkowalnej. Podaj definicję jednostajnego kierunku poprawy. (nie jestem pewien) Metody, które zapewniają jednostają ograniczoność kąta k mniejszy niż PI/2, nazywamy metodami jednostajnych kierunków poprawy. przez kąt gdzie d^k to kierunek poszukiwań. 17. Dane jest zadanie minimalizacji funkcji f ciągle różniczkowalnej. Napisz sformułowanie warunku quasi-newtonowskiego, jaki powinny spełniać wzory uaktualniające metod quasinewtonowskich. 18. Podaj definicję funkcji wypukłej. gdzie K też jest zbiorem wypukłym, czyli (nie wiem czy to poniżej potrzebne też, ale pomaga zrozumieć):

6 19. Podaj definicję funkcji ściśle wypukłej. 20. Podaj definicję macierzy symetrzycznej ściśle dodatnio określonej.