Zaawansowane metody numeryczne

Transkrypt

1 Wykład 11 Ogólna postać metody iteracyjnej Definicja (metoda iteracyjna rozwiązywania układów równań) Metodą iteracyjną rozwiązywania { układów równań liniowych nazywamy ciąg wektorów zdefiniowany następująco: x (i)} i N i=0,1,... x (i+1) = Mx (i) + w, gdzie M i w są odpowiednio pewną macierzą kwadratową i pewnym wektorem.

2 Wektory własne i wartości własne macierzy Definicja (wektory i wartości własne) Niezerowy wektor x o składowych rzeczywistych lub zespolonych nazywamy wektorem własnym macierzy kwadratowej A jeżeli istnieje taka liczba λ (rzeczywista lub zespolona), że Ax = λx. Liczbę λ nazywamy wartością własną macierzy A. Twierdzenie Liczba λ jest wartością własną macierzy A wtedy i tylko wtedy, gdy jest pierwiastkiem wielomianu charakterystycznego det(a λi ) macierzy A (gdzie I oznacza macierz jednostkową odpowiedniego wymiaru). Promień spektralny macierzy i zbieżność metody iteracyjnej Definicja (promień spektralny) Promieniem spektralnym macierzy kwadratowej A nazywamy liczbę ρ(a) zdefiniowaną następująco: ρ(a) = max { λ ; λ wartość własna macierzy A}. Twierdzenie Ciąg przybliżeń metody iteracyjnej przybliżonego rozwiązywania układów równań liniowych dla dowolnego wektora poczatkowego x (0) jest zbieżny do jedynego wektora granicznego wtedy i tylko wtedy, gdy ρ(m) < 1.

3 Oszacowanie promienia spektralnego Niech m ij oznaczają elementy macierzy kwadratowej M wymiaru n. Dla promienia spektralnego ρ(m) zachodzi następujące oszacowanie: ρ(m) M p, (gdzie p = 1,, E), M 1 = max j=1,...,n M = max M E = m ij, i=1 i=1,...,n j=1 i=1 j=1 m ij, mij 2. Oszacowanie promienia spektralnego Zatem aby ciąg przybliżeń metody iteracyjnej był zbieżny wystarczy zapewnić, że M < 1. Nie jest to jednak warunek konieczny. Przykład (oszacowanie promienia spektralnego) Niech będzie dana następująca macierz M: M = Obliczyć ρ(m), M 1, M i M E..

4 Warunek zgodności metody iteracyjnej Niech będzie dany układ równań liniowych Ax = b. Oznaczmy przez ˆx rozwiazanie tego układu, czyli ˆx = A 1 b. W metodzie iteracyjnej rozwiązywania układów równań liniowych chcemy aby zachodziło ρ(m) < 1 (warunek zbieżności metody) oraz ˆx = M ˆx + w (warunek zgodności metody). Jeżeli dane są macierze A, M i wektor b, to biorąc w = (I M)A 1 b zapewniamy spełnienie warunku zgodności. Powyższe postępowanie jest nieefektywne. Wymaga ono znajomości dokładnego rozwiazania wyjściowego układu równań liniowych. W praktyce, aby nie obliczać wyrażenia A 1 b, postępujemy inaczej. Rodzina metod iteracyjnych Definicja (szczególna rodzina metod iteracyjnych) Niech będzie dany układ równań liniowych postaci Ax = B. Kładziemy w = Nb, gdzie N jest pewną macierzą kwadratową. Wówczas z warunku zgodności wynika, że M = I NA. W ten sposób otrzymujemy następującą rodzinę metod iteracyjnych dla naszego układu równań: i=0,1,... x (i+1) = (I NA)x (i) + Nb. Powyższe metody iteracyjne pozwalają wyznaczyć rozwiązanie wyjściowego układu Ax = b, o ile zachodzi warunek ρ(i NA) < 1.

5 Niech będzie dany układ równań liniowych postaci Ax = b. Załóżmy, że A = L + D + U, gdzie L, D i U są odpowiednio macierzą poddiagonalną, diagonalną i naddiagonalną: a 11 a a 1n a 21 a a 2n a A =....., L =......,. a n1 a n2... a nn a n1 a n D = a a a nn 0 a a 1n a 2n, U = (11.1) Definicja (metoda Jacobiego) Niech będzie dany układ równań liniowych postaci Ax = B, gdzie A = L + D + U i L, D, U są odpowiednio macierzą poddiagonalną, diagonalną i ponaddiagonalną. Kładziemy N = D 1 oraz M = D 1 (L + U) i otrzymujemy następującą iteracyjną metodę rozwiązywania układu równań liniowych nazywaną metodą Jacobiego: i=0,1,... Dx (i+1) = (L + U)x (i) + b.

6 1) Wzory metody Jacobiego można zapisać również w następującej postaci: i=0,1,... x (i+1) = D 1 (L + U)x (i) + D 1 b. 2) Jeżeli zachodzi warunek ρ( D 1 (L + U)) < 1 (lub łatwiejszy do sprawdzenia warunek D 1 (L + U) < 1), to metoda Jacobiego zbiega do dokładnego rozwiązania wyjściowego układu równań liniowych Ax = b. 3) Jeżeli na diagonali macierzy A występują zera, to macierz D jest nieodwracalna i metoda Jacobiego zawodzi. Wtedy można spróbować poprzestawiać wiersze macierzy A i odpowiadające im równania w wyjściowym układzie Ax = b, tak aby na diagonali macierzy A znalazły się elementy niezerowe. 4) Jeżeli na diagonali macierzy A nie występują zera, to macierz D 1 jest łatwa do obliczenia. 5) Elementy macierzy D 1 mają duży wpływ na wartość D 1 (L + U) i w miarę możliwości należy starać się aby były jak najmniejsze.

7 Algorytm przestawiania wierszy Jeżeli macierz A ma na diagonali zerowe elementy, to można skorzystać z następującego algorytmu przestawiania wierszy: 1) spośród kolumn z zerowym elementem na diagonali, wybieramy tę, w której jest największa liczba zer; 2) w ustalonej kolumnie wybieramy element o maksymalnym module i tak przestawiamy wiersze, aby znalazł się on na diagonali; 3) przestawiony wiersz pomijamy w dalszych krokach; 4) spośród pozostałych kolumn z zerowym elementem na diagonali wybieramy tę, w której jest największa liczba zer, po czym wracamy do kroku 2; 5) kontynuujemy przestawianie wierszy aż do uzyskania macierzy o niezerowych elementach diagonalnych. Zbieżność metody Jacobiego Definicja (macierz silnie diagonalnie dominująca) Macierz kwadratowa A wymiaru n jest silnie diagonalnie dominująca wtedy i tylko wtedy, gdy spełniony jest następujący warunek: i=1,...,n a ii > k=1 k i a ik. Definicja (macierz silnie diagonalnie dominująca kolumnowo) Macierz kwadratowa A wymiaru n jest silnie diagonalnie dominująca kolumnowo wtedy i tylko wtedy, gdy spełniony jest następujący warunek: i=1,...,n a ii > k=1 k i a ki.

8 Zbieżność metody Jacobiego 1) Zastosowanie algorytmu zamiany wierszy nie gwarantuje spełnienia warunku zbieżności dla metody Jacobiego, czyli warunku ρ( D 1 (L + U)) < 1. 2) Dla dodatnio określonej macierzy symetrycznej metoda Jacobiego może nie być zbieżna. 3) Jeżeli macierz A jest silnie diagonalnie dominująca lub silnie diagonalnie dominująca kolumnowo, to metoda Jacobiego jest zbieżna. Definicja (metoda Gaussa-Seidla) Niech będzie dany układ równań liniowych postaci Ax = B, gdzie A = L + D + U i L, D, U są odpowiednio macierzą poddiagonalną, diagonalną i ponaddiagonalną. Kładziemy N = (D + L) 1 oraz M = (D + L) 1 U i otrzymujemy następującą iteracyjną metodę rozwiązywania układu równań liniowych nazywaną metodą Gaussa-Seidla: i=0,1,... Dx (i+1) = Lx (i+1) Ux (i) + b.

9 1) Prawa strona wzoru metody Gaussa-Seidla zawiera wektor x (i+1). Zatem nowe przybliżenie x (i+1) zależy nie tylko od poprzedniego przybliżenia x (i), ale również od samego siebie. 2) Jeżeli rozpatrujemy wzór metody Gaussa-Seidla dla składowej x (i+1) 1, to jego prawa strona nie zawiera tej składowej. 3) W metodzie Gaussa-Seidla nowe przybliżenie x (i+1) obliczamy składowymi kolejno od x (i+1) 1 do x n (i+1). Wtedy na każdym kroku obliczeń korzystamy jedynie ze składowych obliczonych w poprzednich krokach. 4) wymaga aby na diagonali macierzy A znajdowały się elementy niezerowe, ale nie gwarantuje to zbieżności tej metody. Zbieżność metody Gaussa-Seidla Niech Ax = b będzie danym układem równań liniowych i niech M J i M GS oznaczają odpowiednio macierz M stosowaną w metodzie Jacobiego i w metodzie Gaussa-Seidla. 1) Jeżeli metoda Jacobiego jest zbieżna dla macierzy A i macierz M J ma nieujemne elementy, to zbieżna jest również metoda Gaussa-Seidla. Ponadto jeśli ρ(m J ) < 1, to ρ(m GS ) < ρ(m J ). 2) Jeżeli macierz A jest silnie diagonalnie dominująca lub silnie diagonalnie dominująca kolumnowo, to metoda Gaussa-Seidla jest zbieżna. 3) Jeżeli macierz A jest symetryczna, to metoda Gaussa-Seidla jest zbieżna wtedy i tylko wtedy, gdy macierz A jest dodatnio określona.