5. Rozwiązywanie układów równań liniowych Wprowadzenie (5.1) Układ n równań z n niewiadomymi: a 11 +a 12 x 2 +...+a 1n x n =a 10, a 21 +a 22 x 2 +...+a 2n x n =a 20,..., a n1 +a n2 x 2 +...+a nn x n =a n0. Wprowadzając oznaczenia macierzowe układ równań można zapisać w postaci AX = A 0.
Wprowadzenie (5.1) Zakłada się, że elementy a ij są liczbami rzeczywistymi. Macierz A nazywa się macierzą główną układu równań, wektor A 0 kolumną wyrazów wolnych a wektor X wektorem niewiadomych. Rozwiązaniem rozważanego układu równań nazywany jest każdy wektor o składowych x j, j=1 n, X =[ x 2 x n ] T Twierdzenie (Cramer): Układ równań liniowych jedno rozwiązanie gdy det A 0. rzeczywistych, spełniający równanie A X = A 0. AX = A 0 ma dokładnie Metody rozwiązywania równań liniowych dzieli się na dwie klasy: - metody skończone - pozwalają uzyskać rozwiązanie po wykonaniu skończonej liczby działań arytmetycznych a otrzymane rozwiązania obarczone są tylko błędami zaokrągleń. - metody iteracyjne - polegają na wyznaczaniu ciągu wektorów X 0, X 1,, X k, zbieżnego do rozwiązania układu. Uzyskane rozwiązania są obarczone błędem metody oraz zaokrągleń. Metody te pozwalają jednak wyznaczyć rozwiązania z dowolną, z góry zadaną dokładniością.
Metoda wyznaczników Cramera (5.2.1) Układ równań liniowych AX = A 0 można rozwiązać stosując wzory Cramera Def. Podwyznacznikiem danego wyznacznika nazywamy każdy wyznacznik, który otrzymamy usuwając z macierzy danego wyznacznika pewną liczbę wierszy i taką samą liczbę kolumn, zachowując kolejność elementów pozostałych. Def. Minorem wyznacznika przynależnym do elementu macierzy tego wyznacznika nazywamy ten podwyznacznik danego wyznacznika, który otrzymamy usuwając z macierzy danego wyznacznika wiersz oraz kolumnę, na przecięciu których znajduje się ten element (usuwamy i-ty wiersz oraz k-tą kolumnę). a ik
Metoda wyznaczników Cramera (5.2.1) Uwaga! Minor wyznacznika przynależny do elementu głównym wyznacznika A ik jest minorem Def. Dopełnieniem algebraicznym elementu wyznacznika nazywamy iloczyn minora tego wyznacznika przynależnego do elementu a ik oraz czynnika 1 i k. Tw. (Laplace'a) Wyznacznik jest równy sumie iloczynów każdego elementu dowolnego wiersza (kolumny) i odpowiadającego temu elementowi dopełnienia algebraicznego. a ik a ii Przykład 1: Stosując wzory Cramera wyprowadzić wzory na rozwiązanie układu dwóch równań liniowych z dwiema niewiadomymi, x 2 a 11 +a 12 x 2 =b 1, a 21 +a 22 x 2 =b 2.
Metoda wyznaczników Cramera (5.2.1) Rozwiązanie: Przykład 2: Stosując wzory Cramera wyprowadzić wzory na rozwiązanie układu trzech równań liniowych z trzema niewiadomymi, x 2, x 3 a 11 +a 12 x 2 +a 13 x 3 =b 1, a 21 +a 22 x 2 +a 23 x 3 =b 2, a 31 +a 32 x 2 +a 33 x 3 =b 3.
Metoda wyznaczników Cramera (5.2.1) Rozwiązanie:
Metoda wyznaczników Cramera (5.2.1) Złożoność obliczeniowa metody wyznaczników Cramera: Stosowanie wzorów Cramera nakłada konieczność obliczenia n 1 wyznaczników stopnia n. Stosując opisaną wcześniej klasyczną metodę obliczania wyznacznika należy wykonać n! dodawań oraz n n! mnożeń. Łącznie należy wykonać n 1! działań arytmetycznych zmiennoprzecinkowych. W tabeli poniżej zamieszczono czasy obliczania wyznacznika przez komputer wykonujący 10 8 operacji zmiennoprzecinkowych na sekundę. Aby rozwiązać układ równań AX = A 0 należy obliczyć n 1 wyznaczników stopnia n oraz wykonać n dzieleń. Całkowita liczba działań arytmetycznych jest zatem równa n 1 n 1! n. Z powodu dużej złożoności obliczeniowej wzory Cramera stosuje się tylko dla n 4.
Rozwiązywanie układu równań przebiega w dwóch etapach: - etap postępowania prostego - układ równań zostaje przekształcony do postaci równoważnej (mającej takie samo rozwiązanie, co układ wyjściowy) z trójkątną górną macierzą główną układu, - etap postępowania odwrotnego - układ w postaci równoważnej zostaje rozwiązany. Metoda Eliminacji Gaussa - etap postępowania prostego Wyjściowy układ równań: a (0) 11 +a (0) 12 x 2 +...+a (0) 1n x n =a (0) 10, a (0) 21 +a (0) 22 x 2 +...+a (0) 2n x n =a (0) 20,..., a (0) n1 +a (0) n2 x 2 +...+a (0) nn x n =a (0) n0. (1) Przekształcanie macierzy głównej układu w macierz trójkątną odbywa sie w n krokach.
Etap postępowania prostego (cd) Krok 1: eliminacja niewiadomej 0 a 11 0 z równań nr 2,3,,n. 0 a 11 Zakładając, że element dzieli się pierwsze równanie przez i otrzymuje (2) gdzie Następnie od i-tego ( i=2, 3,,n ) równania układu (1) odejmuje się 0 równanie (2) pomnożone przez otrzymując a i1 (3) gdzie
Etap postępowania prostego (cd) Krok 2: eliminacja niewiadomej z równań nr 3,4,, n. Schemat obliczeń kroku 1 powtarza się w odniesieniu do ukłdu równań (3). Tak więc zakładając, że element a 1 22 0 dzieli się pierwsze równanie układu (3) przez 1 i otrzymuje a 22 x 2 (4) gdzie Następnie od i-tego ( i=3,4,,n ) równania układu (3) odejmuje się 1 równanie (4) pomnożone przez otrzymując a i2 (5) gdzie
Etap postępowania prostego (cd) Krok 3,4,..., n-1: eliminacja kolejnych niewiadomych x 3,, x n 1 w sposób analogiczny do algorytmu postępowania z kroków 1 i 2. Po wykonaniu obliczeń w n 1 kroku, otrzymuje się równania (6) gdzie oraz (7) Krok n: zakłada się, że element n 1 i otrzymuje a n n n x n =a n 0. a n 1 n n 0. Równanie (7) dzieli się przez (8)
Etap postępowania odwrotnego: Rozwiącuje się równoważny układ równań uzyskany w wyniku postępowania prostego Algorytm rozwiązania tego układu równań jest oczywisty. Z ostatniego równania odczytuje się bezpośrednio x n. Wartość tę podstawia się do równań n 1,n 2,,1. Z równania n 1 można wyznaczyć x n 1. Obliczoną wartość podstawia sie do równań n 2, n 3,,1. Teraz z równania n 2 można wyznaczyć itd. x n 2
Wnioski: Układ równań liniowych mozna rozwiązać metodą eliminacji Gaussa, (k 1 gdy elementy a ) k k (k=1, 2,, n) są różne od zera. Ponieważ pomiędzy tymi elementami a minorami macierzy głównej układu zachodzą związki wyrażone w twierdzeniu Twierdzenie. Zachodzą równości Stąd prawdziwe jest twierdzenie Twierdzenie. Układ równań liniowych można rozwiązać metodą eliminacji Gaussa, jeśli wszystkie minory główne macierzy głównej układu są różne od zera
Przykład : Stosując metodę eliminacji Gaussa rozwiązać układ równań liniowych 1,2 2,6 x 2 0,1 x 3 1,5 x 4 = 13,15, 4,5 9,8 x 2 0,4 x 3 5,7 x 4 = 49,84, 0,1 0,1 x 2 0,3 x 3 3,5 x 4 = 14,08, 4,5 5,2 x 2 4,2 x 3 3,4 x 4 = 46,51.
Rozwiązanie: Postępowanie proste
Rozwiązanie (cd): Postępowanie proste Postępowanie odwrotne x 4 = 4,10003 x 3 = 2,40029 x 2 = 3,19989 = 1,29983 Rozwiązanie = 1,29983 x 2 = 3,19989 x 3 = 2,40029 x 4 = 4,10003
Z pełnym wyborem elementu podstawowego Przytoczone wczesniej twierdzenie określające warunki stosowalności metody eliminacji Gaussa pokazało istotne jej ograniczenia (aby układ równań liniowych można było rozwiązać metodą eliminacji Gaussa, wszystkie minory główne macierzy głównej układu muszą być różne od zera). Algorytm ten można jednak zmodyfikować w taki sposób, aby można go było stosować do układu Cramera, tzn do układu z det A 0. Przyjmijmy, że układ równań liniowych AX = A 0 jest rozwiązywany metodą eliminacji Gaussa i że zostało już wykonanych k 1 kroków etapu postępowania prostego. Wyjściowy układ równań został przekształcony do postaci (9)
Algorytm z pełnym wyborem elementu podstawowego 1. wyszukuje się element spełniający warunek 2. przestawia się w układzie (9) równanie r z równaniem k oraz kolumę kolumną k, 3. eliminuje się niewiadomą x k z równań k 1, k 2,,n, zgodnie z algorytmem k-tego kroku prostej eliminacji Gaussa. Jeśli det A 0 zero. k 1 a rs to żaden element podstawowy w tej metodzie nie jest równy Przykład : Rozwiązać układ równań liniowych stosując metodę eliminacji Gaussa z pełnym wyborem elementu podstawowego 1,2 2,6 x 2 0,1 x 3 1,5 x 4 = 13,15, 4,5 9,8 x 2 0,4 x 3 5,7 x 4 = 49,84, 0,1 0,1 x 2 0,3 x 3 3,5 x 4 = 14,08, 4,5 5,2 x 2 4,2 x 3 3,4 x 4 = 46,51. (k a rs 1) = max { a ij k i n k j n (k 1) }, s
Algorytm z pełnym wyborem elementu podstawowego Rozwiązanie: Postępowanie proste
Algorytm z pełnym wyborem elementu podstawowego Rozwiązanie (cd): Postępowanie proste
Algorytm z pełnym wyborem elementu podstawowego Rozwiązanie (cd): Postępowanie proste
Algorytm z pełnym wyborem elementu podstawowego Proces zamiany elementów w macierzy A oraz wektorach X i A 0 najprościej można dokonać możąc powyższe zmienne przez odpowiednio dobrane macierze elementarnej permutacji. P k,ik Macierz taka różni się od macierzy jednostkowej tylko elementami p k,k = p ik, i k =0 i p k,ik = p ik, k=1, stąd pełna informacja o macierzy dana jest tylko dwiema liczbami k i i k. Można pokazać, że: 1] T 1 P k,ik =P k,i k =P k,i k.. czyli macierz elementarnej permutacji jest symetryczna i ortogonalna. 0.. 1.. Lewostronne przemnożenie danej P k,ik =[1.. macierzy A przez P k,ik (t.j. P k,ik A ) odpowiada przestawieniu jej wierszy o 1.. 0 numerach k i i k, a przemnożenie prawo-. stronne (t.j. A P k,i ) równoważne jest. k przestawieniu odpowiednich kolumn.
Algorytm z pełnym wyborem elementu podstawowego W omawianym przykładzie mamy: 2,6 0,1 1,5 A =[1,2 (0) 4,5 9,8 0,4 5,7 0,1 0,1 0,3 3,5 4,5 5,2 4,2 3,4], W kroku 1 postępowania prostego należy zamienić miejscami wiersze oraz i k =2. Macierz elementarnej permutacji ma wówczas postać: A (0) ' =[ 13,15 A (0) 49,84 0 14,08 46,51]. 1 0 0 1 0 0 0 P 1,2 =[0 0 0 1 0 0 0 0 1]. Macierz oraz wektor z zamienionymi wierszami otrzymamy w wyniku operacji 1 0 0 2,6 0,1 1,5 A (0) ' =P 1,2 A =[0 (0) 1 0 0 0 4,5 9,8 0,4 5,7 0 0 1 0 0,1 0,1 0,3 3,5 0 0 0 1][1,2 4,5 5,2 4,2 3,4], A 0 (0) ' 1 X =[x (0) x 2 x 3 x 4], k=1
Algorytm z pełnym wyborem elementu podstawowego 9,8 0,4 5,7 A =[4,5 (0) ' 1,2 2,6 0,1 1,5 0,1 0,1 0,3 3,5 4,5 5,2 4,2 3,4], A 0 (0) ' =P 1,2 A 0 (0) =[0 1 0 0 1 0 0 0 0 0 1 0 0 0 0 1][ 13,15 49,84 49,84 13,15 14,08 14,08 46,51]=[ 46,51], W kroku 1 należy również zamienić miejscami kolumny k=1 oraz i k =2. Macierz elementarnej permutacji ma wówczas postać 1 0 0 1 0 0 0 P 1,2 =[0 0 0 1 0 0 0 0 1].
Algorytm z pełnym wyborem elementu podstawowego Macierz A (0) ' ' z zamienionymi kolumnami otrzymamy w wyniku operacji 9,8 0,4 5,7 1 0 0 A (0) ' ' = A (0)' P 1,2 =[4,5 1,2 2,6 0,1 1,5 1 0 0 0 0,1 0,1 0,3 3,5 0 0 1 0 4,5 5,2 4,2 3,4][0 0 0 0 1]= [ 9,8 4,5 0,4 5,7 2,6 1,2 0,1 1,5 0,1 0,1 0,3 3,5 5,2 4,5 4,2 3,4] W tym przypadku konieczna jest również zamiana wierszy w wektorze Wykonując poniższe przekształcenie otrzymuje sie wektor X (1). 1 0 0 X (1) =P 1,2 X =[0 (0) 1 0 0 0 x 2 0 0 1 0 x 3 0 0 0 1][x1 x 3 x 4]=[x2 x 4]. X (0).
Algorytm z pełnym wyborem elementu podstawowego Teraz można przystąpić do przekształceń pierwszego kroku algorytmu (1 ) eliminacji Gaussa, w wyniku czego otrzymamy macierz A (1 ) oraz wektor A 0 o postaciach: 0,45918 0,04082 0,58163 A =[1,0 (1 ) 0,0 0,00613 0,00613 0,01224 A 0,0 0,14592 0,30408 3,44184 0 0,0 6,88774 3,98774 0,37552], (1 ) =[ 5,08571 0,07285 13,57143 20,06413]. W kroku 2 postępowania prostego należy zamienić miejscami wiersze oraz i k =4. Macierz elementarnej permutacji ma postać: 0 0 0 0 0 0 1 P 2,4 =[1 0 0 1 0 0 1 0 0]. k=2
Algorytm z pełnym wyborem elementu podstawowego A (1 ) ' A 0 (1 ) ' Macierz oraz wektor z zamienionymi wierszami otrzymamy w wyniku operacji 0 0 0 0,45918 0,04082 0,58163 A (1 ) ' =P 2,4 A =[1 (1) 0 0 0 1 0,0 0,00613 0,00613 0,01224 0 0 1 0 0,0 0,14592 0,30408 3,44184 0 1 0 0][1,0 0,0 6,88774 3,98774 0,37552], 0,45918 0,04082 0,58163 A =[1,0 (1 ) ' 0,0 6,88774 3,98774 0,37552 0,0 0,14592 0,30408 3,44184 0,0 0,00613 0,00613 0,01224], 0 0 0 (1 ) A ' 0 =P 2,4 A (1) 0 =[1 0][ 5,08571 5,08571 0 0 0 1 0,07285 20,06413 0 0 1 0 13,57143 13,57143 0 1 0 20,06413]=[ 0,07285],
Algorytm z pełnym wyborem elementu podstawowego Teraz można przystąpić do przekształceń drugiego kroku algorytmu eliminacji Gaussa, w wyniku którego otrzymamy macierz A (2) (2) oraz wektor A 0 o postaciach: 0,45918 0,04082 0,58163 A =[1,0 (2) 0,0 1,00000 0,57896 0,05452 A 0,0 0,00000 0,38856 3,43388 0 0,0 0,00000 0,00258 0,01191], (2) =[ 5,08571 2,91305 13,14636 0,05499]. Wektor X (2) ma postać: 2 X (2) = X =[x (1) x 3 x 4].
Algorytm z pełnym wyborem elementu podstawowego W kroku 3 postępowania prostego należy zamienić miejscami kolumny oraz i k =4. Macierz elementarnej permutacji ma wówczas postać: Macierz A (2) ' 0 0 0 P 3,4 =[1 0 1 0 0 0 0 0 1 0 0 1 0]. z zamienionymi kolumnami otrzymamy w wyniku operacji k=3 0,45918 0,04082 0,58163 0 0 0 A (2) ' =A (2) 0,0 1,00000 0,57896 0,05452 0 1 0 0 P 3,4 =[1,0 0,0 0,00000 0,38856 3,43388 0 0 0 1 0,0 0,00000 0,00258 0,01191][1 0 0 1 0]= [1,0 0,45918 0,58163 0,04082 0,0 1,00000 0,05452 0,57896 0,0 0,00000 3,43388 0,38856 0,0 0,00000 0,01191 0,00258].
Algorytm z pełnym wyborem elementu podstawowego W tym przypadku konieczna jest również zamiana wierszy w wektorze Wykonując poniższe przekształcenie otrzymuje sie wektor X (3). X (2). 0 0 0 X (3) =P 3,4 X =[1 (2) 0 1 0 0 0 0 0 1 x 3 0 0 1 0][x2 x 4]=[x2 x 4 x 3]. Teraz można przystąpić do przekształceń trzeciego kroku algorytmu eliminacji Gaussa, w wyniku którego otrzymamy macierz A (3) (3) oraz wektor A 0 o postaciach: 0,45918 0,58163 0,04082 A =[1,0 (3) 0,0 1,00000 0,05452 0,57896 0,0 0,00000 1,00000 0,11315 0,0 0,00000 0,00000 0,00393], 5,08571 =[ A (3) 2,91305 0 3,82843 0,00939].
Algorytm z pełnym wyborem elementu podstawowego W kroku 4 (ostatnim) postępowania prostego należy jedynie sprowadzić do 1,0 (3) współczynnik A 4,4 macierzy A (3). Ostatecznie po zakończeniu postępowania prostego otrzymujemy układ równań A (4) X (4) (4) = A 0 z macierzą główną A (4) trójkątną górną i wektorem X (4) = X (3). [1,0 0,45918 0,58163 0,04082 0,0 1,00000 0,05452 0,57896 0,0 0,00000 1,00000 0,11315 x 4 0,0 0,00000 0,00000 1,00000][x2 3]=[ 5,08571 2,91305 3,82843 x 2,38931]. Teraz można rozwiązać powyższy układ równań - rozpocząć etap postępowania odwrotnego algorytmu eliminacji Gaussa. Ostatecznie otrzymuje się wektor, którego elementy należy odpowiednio przepisać do wektora. X (4) X (0) X (4) =[x 2 x 4 x 3]=[ 3,20402 1,30627 4,09878 2,38931], X 1 =[x (0) x 2 3,20402 x 3 2,38931 x 4]=[ 1,30627 ]. 4,09878