Metoda rozwiązywania układu równań liniowych z symetryczną, nieokreśloną macierzą współczynników ( 0 )

Transkrypt

1 MATEMATYKA STOSOWANA 7, 2006 Izabella Czochralsa (Warszawa) Metoda rozwiązywania uładu równań liniowych z symetryczną, nieoreśloną macierzą współczynniów ( 0 ) Streszczenie. W pracy zaadaptowano opracowaną w [1] metodę diagonalizacji macierzy symetrycznej do rozwiązywania nieosobliwych (cramerowsich) uładów równań liniowych z symetryczną, nieoreśloną macierzą współczynniów. Algorytm sprowadza się do pewnej modyfiacji symetrycznej procedury eliminacji Gaussa. Słowa luczowe: eliminacja Gaussa, rozład trójątny i trójątno-diagonalny macierzy, stabilna diagonalizacja symetrycznej macierzy nieoreślonej. 1. Wprowadzenie. Rozważmy cramerowsi uład równań liniowych (1) Ax = b z nieosobliwą macierzą współczynniów A = (a ij ) R n n stopnia n, wetorem zmiennych x R n oraz wetorem wyrazów wolnych b = (b i ) R n. Znanych jest wiele sutecznych i zaprogramowanych metod, zarówno doładnych (bezpośrednich), ja i iteracyjnych, rozwiązywania uładu (1) z macierzą pełną lub rzadą, małych lub dużych wymiarów. Metody bezpośrednie prowadzą m.in. do rozładu macierzy A lub równoważnych jej permutacji à = P wa na wierszach, czy à = P w AP na wierszach i olumnach, na iloczyn LR = LDR 1 macierzy nieosobliwych, gdzie L oraz R 1 są macierzami trójątnymi z jedynami na przeątnych, dolną i górną odpowiednio, zaś R górną macierzą trójątną o przeątnej wyznaczającej macierz diagonalną D = diag(r 11,..., r nn ). Następnie rozwiązuje się sewencję prostych uładów równań liniowych aż do uzysania rozwiązania uładu (1). Tu P w oraz P są odpowiednio macierzami permutacji wierszy i olumn macierzy A, a więc macierzami ortogonalnymi. Gdy macierz A jest symetryczna, stosuje się z reguły metody bezpośrednie, a więc symetryczną procedurę eliminacji Gaussa lub jej modyfiacje. Należy podreślić, że w ażdej -tej ( 1, n 1) ( 1 ) iteracji I fazy zwy- ( 0 ) Jest to oryginalna wersja artyułu. ( 1 ), n oznacza zbiór olejnych liczb całowitych o najmniejszej i najwięszej n, gdy n. [45]

2 46 I. Czochralsa łej eliminacji Gaussa, otrzymywane macierze zreduowane M () = (a () ij ) (i, j + 1, n) są taże symetryczne, a to prawie dwurotnie reduuje oszt obliczeń liczbę wyonanych działań i obciążenie pamięci omputera, gdyż można pominąć obliczanie elementów pod (lub nad) przeątną. Jeśli dodatowo macierz A jest dodatnio (ujemnie) oreślona lub diagonalnie dominująca, to macierze zreduowane M () też mają tę samą własność. Stwarza to możliwość sutecznej eliminacji uładu (1) bez wyboru elementu głównego. W przypadu macierzy dodatnio (lub ujemnie) oreślonej elementy główne macierzy zreduowanych są diagonalne, ale nie zawsze ierujące eliminacją, więc z ich wyborem można zwięszyć stabilność obliczeń bez naruszania symetrii tych macierzy, a taże oreśloności. Wtedy otrzymujemy rozład symetrycznej permutacji macierzy A: (2) A = PAP T = LDL T = sign(d 11 ) L L T. Ostatnia równość w (2) jest wyniiem metody Cholesy ego Banachiewicza i różni się od eliminacji Gaussa osztownym obliczaniem pierwiastów elementów diagonalnych, bowiem L=L D, gdzie D=diag( d 11,..., d m ). Dla symetrycznych macierzy półoreślonych ( 2 ) (dodatnio lub ujemnie) i pewnych nieoreślonych możliwy jest tylo rozład trójątno-diagonalny: (3) A = PAP T = LDL T z uwagi na istnienie różnych znaów elementów diagonalnych macierzy D w przypadu nieoreśloności lub zera w przypadu półoreśloności macierzy A. Powyższe rozważania wsazują na to, że problem symetrycznego rozładu (3) macierzy A może się załamać wyłącznie wtedy, gdy macierz A jest nieoreślona i w procesie eliminacji dla pewnego 1, n 1 macierz zreduowana M ( 1) (przyjmujemy, że M (0) = A) ma element główny poza przeątną lub zerowe elementy diagonalne w niezerowych olumnach (i w tych samych wierszach). Odpowiada to macierzy typu [ ] 0 1 (4) dla ε 1 1 ε lub (5) [ ] Rozład symetryczny typu (3) nie jest stabilny w przypadu (4), bo nie da się zrealizować z wyborem elementu głównego, a w przypadu (5) jest nawet niemożliwy. Tai problem daje się jedna rozwiązać za pomocą algorytmu diagonalizacji macierzy A z pracy [1] lub poprzez symetryczny ( 2 ) Taie macierze są osobliwe, więc temat naszych rozważań ich nie obejmuje.

3 Metoda rozwiązywania uładu równań liniowych 47 rozład bloowo-trójątny, zaproponowany w [2], ale niestabilny w prostej postaci lub zbyt osztowny ze stabilizującym wyborem elementu głównego. 2. Algorytm diagonalizacji macierzy symetrycznej. W pracy [1] podano prosty, tani i stabilny algorytm badania oreśloności symetrycznej macierzy A R n n, tórego związe z I fazą symetrycznego wariantu metody eliminacji Gaussa z wyborem elementu głównego zasugerowano w rozdziale 1. Reguła stopu obliczeń i oreślenie wyniu opiera się w tym algorytmie na łatwych do sprawdzenia ryteriach trzech warunach oniecznych spełnionych przez symetryczną macierz oreśloną lub półoreśloną, a mianowicie: elementy diagonalne są tego samego znau lub istnieje jeszcze element zerowy; jeśli istnieje zerowy element diagonalny, to jego olumna i wiersz są wetorami zerowymi (wtedy macierz może być co najwyżej półoreślona); element główny jest diagonalny. Koszt realizacji taiego algorytmu (por. [1]) nie przeracza połowy osztu obliczenia dowolnego wyznacznia macierzy n-tego stopnia, a w przypadu macierzy nieoreślonej może być zdecydowanie niższy wystarczy, że tóreś z wymienionych ryteriów nie jest spełnione przez pewną macierz M () ( 0, n 1). Możemy zatem onwencjonalnie podać, że cały proces nie przeracza n 3 /6 działań dodawania i mnożenia, tyleż porównań i n 2 /2 miejsc pamięci omputera. Porównania i ewentualne symetryczne permutacje mogą jedynie wydłużyć czas pracy omputera, ale nie mają wpływu na stabilność metody. Uwaga 1. Jeśli symetryczna macierz A jest oreślona lub półoreślona, to w wyniu realizacji algorytmu otrzymamy macierz trójątną R, tórej przeątna oreśla postać diagonalną macierzy A, czyli D=diag(r 11,..., r nn ), ja w warunu (3). Również dla ażdej nieoreślonej macierzy A, gdy tylo jest możliwy jej stabilny rozład (3), a więc w ontynuacji algorytmu bez względu na pojawienie się reguły stopu (informacja o nieoreśloności macierzy), otrzymamy w prosty sposób jej diagonalną postać. Schemat stabilizacji algorytmu diagonalizacji. Gdy w olejnej -tej ( 1, n 1) iteracji diagonalizacji macierzy A załamuje się stabilność obliczeń, czyli pojawia się przypade (4) lub (5) macierzy zreduowanej M ( 1), można doonać następującej orety algorytmu: Kro 1. Wyznaczamy element a ( 1) pq tai, że a ( 1) pq czy a ( 1) pp = max{ a ( 1) ij a ( 1) qq M ( 1) dla p > oraz q < p : i, n, j, i}, a następnie sprawdzamy,. Jeśli ta, to przestawiamy miejscami wiersze -ty

4 48 I. Czochralsa i p-ty, a następnie olumny o tych samych numerach i realizujemy ro 2. W przeciwnym razie sprawdzamy, czy q =. Jeśli ta, to realizujemy ro 3; jeśli nie, to przestawiamy miejscami wiersze -ty i q-ty, a następnie olumny o tych samych numerach i realizujemy ro 3. Dla wygody dalszego opisu schematu oznaczamy otrzymaną w rou 1 macierz symbolem M ( 1) = (a ( 1) ij ), i, j, n. Kro 2. Obecnie a ( 1) = 0 lub sign a ( 1) pp oraz a ( 1) q q pq. Jeśli a ( 1) q pq, to wiersz q-ty dodajemy do -tego, a następnie olumnę q-tą do -tej i przechodzimy do rou 4. Jeśli zaś sign a ( 1) q pq, to wiersz q-ty odejmujemy od -tego, a następnie olumnę q-tą od -tej i realizujemy ro 4. Kro 3. Teraz a ( 1) = 0 lub sign a ( 1) qq oraz a ( 1) p p pq. Jeśli a ( 1) p pq, to wiersz p-ty dodajemy do -tego, a następnie olumnę p-tą do -tej i przechodzimy do rou 4. Jeśli zaś sign a ( 1) p pq, to wiersz p-ty odejmujemy od -tego, a następnie olumnę p-tą od -tej i realizujemy ro 4. Oznaczamy symbolem M ( 1) = (a ( 1) ij ), i, j, n, macierz otrzymaną w rou 2 lub 3. Obecnie a ( 1) 2 a ( 1) pq max{a ( 1) ij : i, j, n}. Kro 4. Kontynuujemy eliminację stabilizowaną wyborem elementu głównego częściowo diagonalnej macierzy A ( 1), otrzymując w wyniu macierz A (), ale onretne działania wyonujemy tylo na macierzy M ( 1). W reprezentacji macierzowej proces realizacji zmodyfiowanej opisanym schematem -tej iteracji diagonalizacji macierzy A można zapisać w postaci: (6) A () = L 1 A() L T = L 1 C P A ( 1) P T C T L T, gdzie: P jest macierzą permutacji wierszy, P T olumn, oreślonych w rou 1, C jest macierzą elementarną operacji dodawania wierszy, C T olumn, użytych w rou 2 lub 3, zaś L 1 dolną macierzą trójątną uzysaną w rou 4. Uwaga 2. Podany schemat stabilizacji algorytmu diagonalizacji nieoreślonej macierzy A jest niewielą, ale bardziej suteczną modyfiacją procedury z pracy [1]. Sonstruowany w roach 1 3 element diagonalny jest elementem głównym macierzy M ( 1), a w pewnych przypadach może się oazać nawet dominującym w jego olumnie i wierszu. Realizacja schematu w -tej iteracji wymaga co najwyżej 2(n + 1) działań dodawania, a zatem liczba tych działań w całym procesie diagonalizacji może wzrosnąć o (n 1)(n + 2). a ( 1)

5 Metoda rozwiązywania uładu równań liniowych 49 Przyład. Macierz nieosobliwa A = jest symetryczna, nieoreślona i spełnia waruni (4) i (5). Przeształcając ją według powyższego schematu, otrzymujemy M (0) w 1 w = M (0), M (0) w 1 +w = M (0), a więc macierz z dominującym elementem głównym w pierwszym wierszu i pierwszej olumnie. Doonując eliminacji pierwszej olumny, otrzymujemy macierz zreduowaną [ ] M (1) 121/21 27/21 = 27/21 81/21 diagonalnie dominującą (nawet ujemnie oreśloną), tórej dalsza eliminacja nie wymaga nawet wyboru elementu głównego. Zatem w następnej iteracji ończymy eliminację i otrzymujemy macierz M (2) = ( 432/121). Macierz A (2) = D = diag(a (0) 11, a(1) 22, a(2) 33 ) = diag(3, 121/21, 432/121) jest postacią diagonalną macierzy A, a zgodnie z (6) ma postać iloczynu: (7) D = L 1 CPAP T C T L T, gdzie P = , L = , L 1 = / /4 27/ Metoda rozwiązywania uładu równań (1) z nieoreśloną macierzą współczynniów. Gdy w ażdej t -tej ( t 1, n 1, t 1, r, r n 1) iteracji załamania się stabilności diagonalizacji symetrycznej macierzy A R n n zastosujemy rozład (6), to cały proces diagonalizacji można zapisać, analogicznie do (7), w postaci iloczynu macierzy: (8) D = L 1 n 1 C n 1P n 1 L 1 1 C 1P 1 AP T 1 C T 1 L T 1 P T n 1C T n 1L T n 1 = FAF T,

6 50 I. Czochralsa gdzie P = I, gdy a ( 1) = max{ a ( 1) ij : i, n, j, i} oraz C = I dla t ( 1, n 1). Stąd równoważnie otrzymujemy rozład macierzy A na iloczyn postaci ( 3 ) (9) A = F 1 DF T. Podstawiając rozład (9) do uładu równań (1) w miejsce nieoreślonej macierzy symetrycznej współczynniów A, oazuje się, że można go sutecznie rozwiązać przedstawioną procedurą diagonalizacji (8). Działania na wierszach macierzy A należy wtedy wyonywać jednocześnie na wetorze wyrazów wolnych b, zaś działania na olumnach, wyonywane dla zachowania symetrii i typu oreśloności macierzy, tylo zapamiętywać w związu z onfiguracją wetora zmiennych x. Następnie rozwiązujemy uład równań (10) Dy = Fb i obliczamy rozwiązanie uładu (1): (11) x = F T y, mnożąc lewostronnie wetor y przez olejne macierze iloczynu F T. 4. Uwagi ońcowe. Warto wspomnieć o innym podejściu do rozwiązywania uładu równań (1), polegającym na zastosowaniu różnych algorytmów ortogonalizacji (metoda QR), prowadzących do rozładu macierzy A na iloczyn postaci (12) A = QR, gdzie Q jest macierzą ortogonalną, a R macierzą trójątną górną. Metoda ta jest jedna zbyt osztowna w porównaniu z modyfiacjami algorytmu eliminacji Gaussa, by ją stosować ( 4 ) do rozwiązywania uładu (1). Przyładowo, rozład nieosobliwej ( 5 ) macierzy A na iloczyn (12) metodą ortogonalizacji Grama Schmidta można zrealizować w procesie rozładu trójątnego dodatnio oreślonej macierzy Grama G = A T A metodą Cholesy ego Banachiewicza, ja w (2), czyli G = R T R, gdzie R jest poszuiwaną górną macierzą trójątną, zaś macierz ortogonalna Q = AR 1. Przy tym macierz R 1 jest transpozycją macierzy superpozycji operacji elementarnych wyonanych na macierzy G podczas przeształcania jej do postaci trójątnej R. Złożoność obliczeniowa tego procesu jest porównywalna ( 3 ) Tu oznaczenie macierzy F zostało wprowadzone wyłącznie dla wygody zapisu wzorów. ( 4 ) Choć zalecana w przypadu rozwiązywania uładów nadoreślonych, w tórych prostoątna macierz współczynniów A R m n jest olumnami regularna przy m > n, a wtedy Q R m n ma tylo olumny ortonormalne, ale tym się teraz nie zajmujemy. ( 5 ) Lub olumnami regularnej w przypadu macierzy prostoątnej.

7 Metoda rozwiązywania uładu równań liniowych 51 z rozwiązywaniem uładu równań (1) w równoważnej mu postaci normalnej: (13) A T Ax = A T b. Obliczenie macierzy G oraz wetora A T b wymaga jedna podwyższonej precyzji, gdyż wprowadza znaczne zaburzenia wśród danych początowych w tracie wyonywania iloczynów salarnych. Trzeba też dodać, że przedstawiona metoda ortogonalizacji Grama Schmidta jest łatwa w zapisie i zrozumieniu, jednaże numerycznie niestabilna. Jej stabilne modyfiacje, ja też i inne sposoby wyznaczania macierzy Q (por. [2]), są równie osztowne. W związu z powyższym, metoda zaproponowana w rozdziale 3 wydaje się najbardziej zasadną w przypadu rozwiązywania rozważanego uładu równań (1) z nieoreśloną macierzą współczynniów. Wystarczy porównać wynii obliczeń rozwiązywanego wyżej przyładu z postacią macierzy Grama danej tam macierzy A, czyli: A T A = Cytowana literatura [1] I. Czochralsa, A verification of the definiteness of a quadratic form its canonical form, Badania Operacyjne i Decyzje 1 (1996), [2] A. Kiełbasińsi, H. Schwetlic, Numeryczna algebra liniowa, Warszawa, WNT, Instytut Eonometrii Szoła Główna Handlowa Al. Niepodległości 162, Warszawa izabella@sgh.waw.pl Abstract. The subject of this article is a numerically stable method for solving nonsingular Cramerian systems of linear equations, with a symmetric indefinite coefficient matrix. It consists in adapting the algorithm presented in [1] that can stably and effectively diagonalize any indefinite symmetric matrix. It is in fact some modification of the Gaussian symmetric elimination procedure. Key words: Gaussian elimination, triangular and triangular-diagonal factorization of a matrix, numerically stable diagonalization of a symmetric indefinite matrix. (wpłynęło 31 lipca 2006 r.)