ALGEBRA LINIOWA. ĆWICZENIA Układy Równań Liniowych

Podobne dokumenty
Zaawansowane metody numeryczne

UKŁADY ALGEBRAICZNYCH RÓWNAŃ LINIOWYCH

Obliczenia naukowe Wykład nr 8

Metody numeryczne. Janusz Szwabiński. Metody numeryczne I (C) 2004 Janusz Szwabiński p.1/50

Zaawansowane metody numeryczne

UKŁADY ALGEBRAICZNYCH RÓWNAŃ LINIOWYCH

Analiza numeryczna Kurs INP002009W. Wykłady 6 i 7 Rozwiązywanie układów równań liniowych. Karol Tarnowski A-1 p.

1 Macierze i wyznaczniki

Metody iteracyjne rozwiązywania układów równań liniowych (5.3) Normy wektorów i macierzy (5.3.1) Niech. x i. i =1

Met Me ody numer yczne Wykład ykład Dr inż. Mic hał ha Łanc Łan zon Instyt Ins ut Elektr Elektr echn iki echn i Elektrot Elektr echn olo echn

Rozwiązywanie układów równań liniowych

Układy równań liniowych. Krzysztof Patan

SIMR 2016/2017, Analiza 2, wykład 1, Przestrzeń wektorowa

dr Mariusz Grządziel 15,29 kwietnia 2014 Przestrzeń R k R k = R R... R k razy Elementy R k wektory;

Analiza numeryczna Lista nr 3 (ćwiczenia) x x 2 n x.

Macierze. Rozdział Działania na macierzach

D1. Algebra macierzy. D1.1. Definicje

Metody numeryczne Wykład 4

Rozdział 5. Macierze. a 11 a a 1m a 21 a a 2m... a n1 a n2... a nm

Wykład 5. Metoda eliminacji Gaussa

Lista. Algebra z Geometrią Analityczną. Zadanie 1 Przypomnij definicję grupy, które z podanych struktur są grupami:

Układy równań i nierówności liniowych

3. Wykład Układy równań liniowych.

Rozwiązywanie układów równań liniowych metody przybliżone Materiały pomocnicze do ćwiczeń z metod numerycznych

1 Metody rozwiązywania równań nieliniowych. Postawienie problemu

1 Zbiory i działania na zbiorach.

3. Macierze i Układy Równań Liniowych

Układy równań i równania wyższych rzędów

5. Rozwiązywanie układów równań liniowych

a 11 a a 1n a 21 a a 2n... a m1 a m2... a mn a 1j a 2j R i = , C j =

Rozwiązywanie układów równań liniowych metody dokładne Materiały pomocnicze do ćwiczeń z metod numerycznych

RACHUNEK MACIERZOWY. METODY OBLICZENIOWE Budownictwo, studia I stopnia, semestr 6. Instytut L-5, Wydział Inżynierii Lądowej, Politechnika Krakowska

Wykład 14. Elementy algebry macierzy

, A T = A + B = [a ij + b ij ].

Wykład 6. Metoda eliminacji Gaussa: Eliminacja z wyborem częściowym Eliminacja z wyborem pełnym

Matematyka stosowana i metody numeryczne

Definicja macierzy Typy i właściwości macierzy Działania na macierzach Wyznacznik macierzy Macierz odwrotna Normy macierzy RACHUNEK MACIERZOWY

Wstęp do metod numerycznych Uwarunkowanie Eliminacja Gaussa. P. F. Góra

a 11 a a 1n a 21 a a 2n... a m1 a m2... a mn x 1 x 2... x m ...

Metody numeryczne II. Układy równań liniowych

Metody dekompozycji macierzy stosowane w automatyce

PODSTAWY AUTOMATYKI. MATLAB - komputerowe środowisko obliczeń naukowoinżynierskich - podstawowe operacje na liczbach i macierzach.

NUMERYCZNE METODY ROZWIĄZYWANIA ROWNAŃ LINIOWYCH. PRZYGOTOWAŁA: ANNA BANAŚ KoMBo, WILiŚ

15. Macierze. Definicja Macierzy. Definicja Delty Kroneckera. Definicja Macierzy Kwadratowej. Definicja Macierzy Jednostkowej

Zadania egzaminacyjne

Obliczenia naukowe Wykład nr 2

O MACIERZACH I UKŁADACH RÓWNAŃ

DB Algebra liniowa semestr zimowy 2018

Przekształcenia liniowe

04 Układy równań i rozkłady macierzy - Ćwiczenia. Przykład 1 A =

Treść wykładu. Układy równań i ich macierze. Rząd macierzy. Twierdzenie Kroneckera-Capellego.

Własności wyznacznika

macierze jednostkowe (identyczności) macierze diagonalne, które na przekątnej mają same

Algebra WYKŁAD 3 ALGEBRA 1

Wektory i wartości własne

Układy równań liniowych i metody ich rozwiązywania

Zaawansowane metody numeryczne

Wektory i wartości własne

13 Układy równań liniowych

Krótkie wprowadzenie do macierzy i wyznaczników

1 Macierz odwrotna metoda operacji elementarnych

Zadania z algebry liniowej - sem. I Przestrzenie liniowe, bazy, rząd macierzy

Algebra liniowa. 1. Macierze.

Podstawowe struktury algebraiczne

Wykład 7 Macierze i wyznaczniki

5 Wyznaczniki. 5.1 Definicja i podstawowe własności. MIMUW 5. Wyznaczniki 25

Przestrzeń liniowa. Algebra. Aleksander Denisiuk

Analiza matematyczna i algebra liniowa Macierze

Algebra liniowa z geometrią

10. Metody obliczeniowe najmniejszych kwadratów

Aby przygotować się do kolokwiów oraz do egzaminów należy ponownie przeanalizować zadania

Macierze Lekcja I: Wprowadzenie

Równania różniczkowe liniowe wyższych rzędów o stałych współcz

ALGEBRA LINIOWA. Wykład 2. Analityka gospodarcza, sem. 1. Wydział Zarządzania i Ekonomii Politechnika Gdańska

Algebra Liniowa 2 (INF, TIN), MAP1152 Lista zadań

φ(x 1,..., x n ) = a i x 2 i +

det[a 1,..., A i,..., A j,..., A n ] + det[a 1,..., ka j,..., A j,..., A n ] Dowód Udowodniliśmy, że: det[a 1,..., A i + ka j,..., A j,...

METODY NUMERYCZNE. wykład. konsultacje: wtorek 10:00-11:30 środa 10:00-11:30. dr inż. Grażyna Kałuża pokój

Treści programowe. Matematyka. Efekty kształcenia. Literatura. Terminy wykładów i ćwiczeń. Warunki zaliczenia. tnij.org/ktrabka

Algebra z Geometrią Analityczną. { x + 2y = 5 x y = 9. 4x + 5y 3z = 9, 2x + 4y 3z = 1. { 2x + 3y + z = 5 4x + 5y 3z = 9 7 1,

UKŁADY RÓWNAŃ LINIOWYCH - Metody dokładne

ALGEBRA LINIOWA Z ELEMENTAMI GEOMETRII ANALITYCZNEJ. 1. Ciała

Metoda eliminacji Gaussa. Autorzy: Michał Góra

Baza w jądrze i baza obrazu ( )

ECTS (Część 2. Metody numeryczne) Nazwa w języku angielskim: Algorithms and data structures.

ELEMENTY ANALIZY NUMERYCZNEJ ELEMENTY ANALIZY NUMERYCZNEJ. Egzamin pisemny zestaw 1 26 czerwca 2017 roku

Lista. Algebra z Geometrią Analityczną. Zadanie 1 Zapisz za pomocą spójników logicznych i kwantyfikatorów: x jest większe niż 6 lub mniejsze niż 4

Funkcja kwadratowa. f(x) = ax 2 + bx + c,

ELEMENTY ANALIZY NUMERYCZNEJ ELEMENTY ANALIZY NUMERYCZNEJ. Egzamin pisemny zestaw 1 24 czerwca 2019 roku

Wyznaczniki. Algebra. Aleksander Denisiuk

Układy równań liniowych

Wyk lad 5 W lasności wyznaczników. Macierz odwrotna

Wielomiany. dr Tadeusz Werbiński. Teoria

Wstęp do metod numerycznych Eliminacja Gaussa Równania macierzowe. P. F. Góra

KADD Minimalizacja funkcji

1. Liczby zespolone i

Egzamin z Metod Numerycznych ZSI, Egzamin, Gr. A

Analiza funkcjonalna 1.

2. Układy równań liniowych

Transkrypt:

ALGEBRA LINIOWA ĆWICZENIA Układy Równań Liniowych ALEXANDER DENISIUK Najnowsza wersja tego dokumentu dostępna jest pod adresem http://userspjwstkedupl/~denisjuk/ Proponowane zadania powinny zostać zrealizowane w ramach kursu programowania Celem ćwiczeń jest opanowanie metod rozwiązywania układów równań liniowych oraz działań na macierzach, a zarazem metod programowania Możliwa jest implementacja w formalizmie programowania strukturalnego Innym rozwiązaniem może zostać podejście obiektowe, z określeniem klas macierz, wektor oraz przeciążeniem odpowiednich operatorów Zadanie zostało również zaopatrzone w wiadomości teoretyczne, znacznie przekraczające niezbędny minimum, potrzebny do realizacji zadań Część materiału może zostać pominięta przy rozwiązywaniu zadań Taki materiał został umieszczony pomiędzy znaczkami oraz Na końcu zadania podane są przykładowe układy równań do rozwiązywania Zaliczenie zadania nie ma wpływu na zaliczenie przedmiotu Algebra Spis treści 1 Zadania 1 11 Metoda eliminacji Gaussa(5 godzin) 1 12 Iteracyjne metody rozwiązywania układów równań liniowych (3 godziny) 2 2 Wiadomości teoretyczne 2 21 Macierze 2 22 Macierze a układy równań liniowych 5 23 Metody Gaussa rozwiązywania układów równań liniowych 6 24 Teoria metryczna w przestrzeniach wektorowych 8 25 Iteracyjne metody rozwiązywania układów równań liniowych 10 26 Przekształcenie równania Ax = b do iteracyjnej postaci 11 27 Metoda Jacobiego 11 28 Metoda Gaussa-Seidla 13 3 Przykładowe układy równań 14 Literatura 14 1 Zadania 11 Metoda eliminacji Gaussa(5 godzin) Niech A będzie n n macierzą, b znanym wektorem Przez błędy zaokrąglenia, metoda Gaussa, zamiast dokładnego, 1

2 ALEXANDER DENISIUK daje przybliżone rozwiązanie układu (1) Ax=b Oznaczmygoprzezx 0,nazwijmyprzybliżeniemzerowymZerowybłądprzybliżenia ε 0 =x x 0 spełniaukładrównańliniowych (2) Aε 0 = b 0, gdzie b 0 =A(x x 0 )=b b 0,b 0 =Ax 0 Wektor b 0 nazywasięresztązerową Rozwiązując metodą eliminacji Gaussa układ(2), można znaleźć pierwszą poprawkęη 1 Pierwszymprzybliżeniemnazwijmywektorx 1 =x 0 +η 1 Podstawiając x 1 doukładu(1),otrzymujemyb 1 =Ax 1 ipierwsząresztę b 1 =b b 1 Z b 1 znajdziemydrugąpoprawkęη 2,drugieprzybliżeniex 2 =x 1 +η 2 itakdalej Ćwiczenie 1 Czemu błąd przybliżenia spełnia układ(2)? Czemu przy rozwiązaniu układu(2) znajdujemy poprawkę, a nie błąd przybliżenia? Jakie równanie trzeba rozwiązać, aby z pierwszej reszty znaleźć drugą poprawkę? Napiszprogram,którydladanejmacierzyAorazwektorabobliczaiwyświetla kolejnie: x 0, b0, b 0, x 1, b1, b 1, x k, bk, b k, gdzie b =max b 1,, b n } Przetestuj swój program (1) Utwórz układ testowy, ze znanym tobie dokładnym rozwiązaniem (2) Sprawdź, czy twój program oblicza to dokładne rozwiązanie (3) Czy wynika z tego, że program jest poprawny? Lub niepoprawny? Przeanalizuj wyniki działania programu dla dobrej i złej macierzy: (1) Czy reszty się zmniejszają z każdym krokiem? (2) Dla której macierzy reszty są mniejsze? (3) Czy można wnioskować o wielkości błędu otrzymanego rozwiązania? 12 Iteracyjne metody rozwiązywania układów równań liniowych(3 godziny) Ćwiczenie 2 Rozwiąż układ równań liniowych metodą iteracyjną z dokładnością ε = 0,0001 Spróbuj iteracje Jakobiego(wzór(16) ze strony 12) oraz Gaussa-Seidla(wzór(18) ze strony 13) Przeanalizuj wyniki działania programu dla dobrej i złej macierzy Porównaj wyniki z metodą eliminacji Gausa: czy udaje się osiągnąć lepszą dokładność? 21 Macierze 2 Wiadomości teoretyczne Definicja 21 Macierzą n m nazywamy prostokątną tablicę liczb: a 11 a 12 a 1m A= a 21 a 22 a 2m a n1 a n2 a nm

Układy Równań Liniowych 3 Mówimyrównież,żemacierzAmanwierszyimkolumnZapisa ik oznacza,że elementtenznajdujesięwi-tymwierszuik-tejkolumniejeżelim=n,macierz nazywa się kwadratową stopnia n Definicja 22 Macierz n 1 nazywamy wektorem Elementy wektora nazywamy współrzędnymi i oznaczamy x 1 x 2 x= x n Definicja23DwiemacierzeAiBtegosamegowymiarun msąrówne,jeśli wszystkie odpowiednie elementy obu macierzy, położone na tych samych miejscach, sąrówne,ie a ik =b ik,,n, k=1,,m Definicja 24 Macierzą transponowaną(lub przestawioną) nazywamy macierz, która powstaje z danej macierzy przez zmianę wierszy przez kolumny: a 11 a 21 a n1 A t = a 12 a 22 a n2 a 1m a 2m a nm Przykład 25 ( ) 1 2 3 A=, A 4 5 6 t = 1 4 2 5 3 6 Definicja 26 Macierzą zerową nazywamy dowolnego wymiaru macierz, której wszystkie elementy są równe zeru ( ) 0 0 0 Przykład27Macierzezerowe: O 2 3 =, O 0 0 0 3 = 0 0 0 0 0 0 0 0 0 Definicja28Macierzjesttrójkątną,jeślia ij =0przyi>j Przykład 29 Macierze trójkątne: 1 2 3 0 1 2, 1 2 3 7 0 1 2 8 0 0 3 0 0 3 9 Definicja 210 Macierz kwadratowa jest symetryczną, jeżeli dla wszystkich i, j = 1,,nspełnionarównośća ij =a ji Macierzjestsymetrycznawtedyitylkowtedy,gdyA t =A Przykład 211 Macierz symetryczna: 0 1 4 1 0 2 4 2 3 Definicja 212 Macierz kwadratowa nazywa się diagonalną (przekątną), jeśli a ij =0przyi j Przykład 213 Macierz diagonalna: 1 0 0 0 1 0 0 0 3 Definicja 214 Macierz kwadratowa jest jednostkową, jeśli 0 przyi j, a ij = 1 przyi=j

4 ALEXANDER DENISIUK Przykład215Macierzjednostkowa: I 3 = 1 0 0 0 1 0 0 0 1 Definicja 216 Sumą dwóch macierzy A i B tego samego wymiaru jest macierz C=A+Btegożwymiaru,takażec ij =a ij +b ij Przykład 217 1 2 + 1 2 = 0 4 3 4 7 Dodawanie macierzy spełnia zwykłe własności dodawania: Definicja218 (1)A+B=B+A przemienność, (2)(A+B)+C=A+(B+C) łączność (3)A+O=O+A=A macierzzerowajestelementemneutralnym, (4) dla każdej macierzy A istnieje macierz przeciwna A, taka że A+( A)=( A)+A=0 Definicja 219 Iloczynem liczby rzeczywistej λ i macierzy A jest macierz C = λa tegosamegowymiaru,takażec ij =λa ij Przykład2205 1 1 5 2 0 = 5 1 10 0 1 3 5 15 Mnożenie macierzy przez liczbę posiada własności liniowości: Właściwości221 (1)1 A=A, (2)(αβ)A=α(βA), (3)α(A+B)=αA+αB, (4)(α+β)A=αA+βA Definicja 222 Zbiór n-wymiarowych wektorów, razem z określonymi w 216 i 219 działaniami dodawania i mnożenia przez liczbę rzeczywistą nazywa się przestrzenią liniową R n Uwaga 223 Ogólną przestrzenią liniową nad ciałem liczb rzeczywistych R nazywa się zbiór X, w którym określone są dwie operacje: dodawanie elementów zbioru X i mnożenie elementów zbioru X przez liczby rzeczywiste w taki sposób, że są spełnione własności 218 oraz 221 Więc, zbiór wszystkich macierzy pewnego ustalonego wymiaru n m też jest przestrzenią liniową Definicja 224 Iloczynem macierzy A wymiaru n r przez macierz B wymiaru r mjestmacierzcwymiarun m,którejelementc ij jestrówny r c ij =a i1 b 1j +a i2 b 2j + +a ir b rj = a ik b kr Przykład 225 k=1 2 3 ( ) 0 11 7 12 1 4 3 1 2 0 = 11 11 2 16 2 3 1 4 5 1 13 8 11 4 Mnożenie macierzy przez macierz spełnia następujące własności: Właściwości 226 Założymy, że we wszystkich przypadkach mnożenie macierzy jest określone poprawnie (1)A(BC)=(AB)C,

Układy Równań Liniowych 5 (2) OA=O,AO=O, 1 (3) IA=AI=A, 2 (4)A(B+C)=AB+AC, (5)(A+B)C=AC+BC, (6) λ R A(λB)=λ(AB) Uwaga 227 Dla miłośników C++ można powiedzieć, że operatory + i* zostały przeciążone przez definicje 216, 219 oraz 224 Definicja 228 Niech A będzie n n macierzą Macierzą odwrotną nazywa się macierza 1,takażeAA 1 =A 1 A=I Uwaga 229 Macierz odwrotna istnieje nie dla wszystkich macierzy kwadratowych A 22 Macierze a układy równań liniowych Z definicji mnożenia macierzy wynika,żedladowolnejn mmacierzyaiwektorax R m,axteżjestwektorem, Ax R n WtensposóbmacierzMacierzAonwierszachimkolumnachmożebyć traktowanajakooperatorliniowyprzekształcającyprzestrzeń R m w R n : (3) A: R m R n, x Ax Liniowośćoznacza,że x,y R m, λ R (1)A(x+y)=Ax+Ay, (2)A(λx)=λAx W formie rozwiniętej przekształcenie(3) zapisze się x 1 x 2 x m a 11 a 12 a 1m a 21 a 22 a 2m a n1 a n2 a nm x 1 x 2 x m = a 11 x 1 +a 12 x 2 + +a 1m x m = a 21 x 1 +a 22 x 2 + +a 2m x m a n1 x 1 +a n2 x 2 + +a nm x m Równanie macierzowe Ax = b odpowiada układowi równań liniowych: a 11 x 1 +a 12 x 2 + +a 1m x m =b 1, a 21 x 1 +a 22 x 2 + +a 2m x m =b 2, (4) Ax=b a n1 x 1 +a n2 x 2 + +a nm x m =b n Definicja 230 Z równaniem(4) związana jest macierz rozszerzona: a 11 a 12 a 1m b 1 a 21 a 22 a 2m b 2 Ã= a n1 a n2 a nm Niżej ograniczymy się przypadkiem macierzy kwadratowych, n = m 1 wtymprzykładzie Owkażdymprzypadkuoznaczaogólniemówiączerowąmacierzróżnych wymiarów 2 wtymprzykładziewkażdymprzypadku Ioznaczaogólniemówiącjednostkowąmacierzróżnych wymiarów b n

6 ALEXANDER DENISIUK Definicja 231 Macierz A(operator A) jest nieosobliwą, jeśli dla dowolnego wektorax R n ( Ax=0 ) ( x=0 ) Twierdzenie 232 Macierz A jest nieosobliwą wtedy i tylko wtedy, gdy deta 0 Twierdzenie 233 Macierz A jest nieosobliwą wtedy i tylko wtedy, gdy istnieje macierzodwrotnaa 1 Twierdzenie234MacierzAjestnieosobliwąwtedyitylkowtedy,gdy b R n równanie Ax = b ma dokładnie jedno rozwiązanie Uwaga 235 Rozwiązanie równania Ax = b w przypadku macierzy nieosobliwej danejestwzoremx=a 1 Ax=A 1 b 23 Metody Gaussa rozwiązywania układów równań liniowych Rozważamy w tym rozdziale tylko nieosobliwe macierze Metoda eliminacji Gaussa oparta jest na następujące twierdzenie z algebry liniowej Twierdzenie 236 Zbiór pierwiastków układu równań liniowych nie zmieni się, jeżeli (1)dowolnywierszmacierzyrozszerzonejÃpomnożyćprzezdowolnąniezerową liczbę rzeczywistą, (2)oddowolnegowierszumacierzyÃodjąćdowolnydrugiwiersz,pomnożony przez dowolną liczbę rzeczywistą Metoda Gaussa polega na tym, że za pomocą przekształceń(1) i(2) macierz rozszerzonaãprzekształcasiędopostacitrójkątnej(prostybieg): 1 a 12 a 13 a 1(n 1) a 1n b 1 0 1 a 23 a 2(n 1) a 2n b 2 0 0 1 a 3(n 1) a 3n b 3 (5) 0 0 0 1 a (n 1)n b n 1 0 0 0 0 a nn b n Potem obliczamy w jawny sposób pierwiastki układu trójkątnego x 1 +a 12 x 2 +a 13 x 3 + +a 1(n 1) x n 1 +a 1n x n =b 1, x 2 +a 23 x 3 + +a 2(n 1) x n 1 +a 2n x n =b 2, x 3 + +a 3(n 1) x n 1 +a 3n x n =b 3, x n 1 +a (n 1)n x n =b n 1, a nn x n =b n, poczynajączx n (odwrotnybieg): x n =b n /a nn, x n 1 =b n 1 x n a (n 1)n, x k =b k k+1 x i a ki, i=n x 1 =b 1 2 x i a 1i i=n

Układy Równań Liniowych 7 for(l=0;l<n-1;l++) for(i=l+1;i<n;i++) A[l,i]=A[l,i]/A[l,l]; b[l]=b[l]/a[l,l]; for(i=l+1;i<n;i++) for(j=l+1;j<n;j++) A[i,j]=A[i,j]-A[l,j]*A[i,l]; b[i]=b[i]-b[l]*a[i,l]; } } Rysunek 1 Prosty bieg metody eliminacji Gaussa Prosty bieg można zrealizować w sposób następujący Podzielimy pierwszy wierz przeza 11 Otrzymamymacierz 1 a 12 a 1m b 1 à a 21 a 22 a 2m b 2 =, a n1 a n2 a nm b n gdziea 1i =a 1i/a 11, b 1=b 1 /a 11,i=2,,nŻebyotrzymaćwpierwszejkolumniesamezera,odejmujemykolejnoodwierszaipierwszywierszmnożonyprzeza i1 Wynikiem będzie 1 a 12 a 1m b à 0 a 22 a 1 2m b 2 =, 0 a n2 a nm gdziea ij =a ij a 1j a i1, b j =b j b 1 a i1,i,j=2,,n OpracujemywtensamsposóbpodmacierzÃ2,poczynajączdrugiegowiersza i drugiej kolumny, etc W reszcie otrzymamy macierz trójkątną(5) Prosty bieg metody Gaussa przedstawiony jest we fragmencie programu na rysunku 1 b n Wariantem metody jest tak zwana Metoda Gaussa z wyborem elementu głównegometoda Gaussa z wyborem elementu głównego W tej metodzie w prostymbieguprzeddzieleniemprzeza l,l przestawiająwierszyi/lubkolumnymacierzyãtak,żebynamiejscu(l,l)okazałsięelement,którymanajwiększymoduł Ponieważ błąd absolutny obliczeń jest proporcjonalny wartości bezwzględnej liczb, można oczekiwać zmniejszenia błędu w porównaniu ze zwykłą metodą Gaussa, jak w następującym przykładzie Przykład 237 Rozważmy układ 0,01x+8,99y=3, 10x y=3 Nietrudnoobliczyć,żedokładnymrozwiązaniemjest(x 0,y 0 )=( 1 3,1 3 )Założymy,że układrozwiązujesięnamaszynieczterocyfrowej,więc(x 0,y 0 ) (0,3333,0,3333)

8 ALEXANDER DENISIUK Przy stosowaniu zwykłej metody Gaussa mamy ciąg przekształceń: x+899y=300, x+899y=300, 10x y=3, x+899y=300, y=0,3333, 8991y = 2997, x=300 299,6, y=0,3333, Zaś przy stosowaniu metody Gaussa z wyborem elementu głównego 10x y=3, x 0,1y=0,3, 0,01x+8,99y=3, x 0,1y=0,3, 8,991y=2,997, 0,01x+8,99y=3, x 0,1y=0,3, y=0,3333, x=0,4, y=0,3333 x=0,3333, y=0,3333 24 Teoria metryczna w przestrzeniach wektorowych Rozwiązaniem układy równań liniowych jest wektor, element przestrzeni wektorowej Metoda Gaussa w teorii daje dokładne przybliżenie W praktyce, jednak, przy obliczeniu na komputerze, przez błędy zaokrąglenia można otrzymać jedynie rozwiązanie przybliżone Żeby oszacować dokładność przybliżenia, trzeba mierzyć wielkość różnicy wektorów Za taką miarę przyjmowana jest norma wektora, która uogólnia pojęcia wartości bezwzględnej liczb oraz długości wektorów geometrycznych Wprzestrzeni R n,którejelementamisąwektoryx= wiele norm wektorów x 1 x n można wprowadzić Definicja238Zanormęwektoramożnauważaćdowolnąfunkcję R n R,x x, która spełnia następujące warunki: (1) x 0, x =0 x=0 (2) λ R λx = λ x (3)(nierównośćtrójkąta) x+y x + y Definicja239Ciągwektorów x (k) } jestzbieżnymdowektoraxprzyk, jeżeli lim k x x (k) =0 W obliczeniach numerycznych najczęściej są stosowane normy następujące: x 1 = x 1 + x 2 + + x n x 2 = x 2 1 +x2 2 + +x2 n (normaeuklidesowa) x =max x 1, x 2,, x n } Twierdzenie240Dladowolnegowektorax R n spełnionesąnierówności x x 2 x 1 n x 2 n x Przed dowodem twierdzenia 240 udowodnimy bardzo ważną nierówność

Układy Równań Liniowych 9 Lemat 241(Nierówność Cauchy ego) Dla dwóch dowolnych skończonych ciągów rzeczywistycha 1,,a n ib 1,,b n zachodzinierówność (6) a 1 b 1 + +a n b n a 2 1 + +a2 n b 2 1 + +b2 n Dowód Rozważymy trójmian kwadratowy P(t)=(a 1 +b 1 t) 2 + +(a n +b n t) 2 = =t 2 (b 2 1 + +b2 n )+2t(a 1b 1 + +a n b n )+(a 2 1 + +a2 n ) PonieważdlawszystkichrzeczywistychtzachodzinierównośćP(t)0,wyznacznik tego trójmianu jest niedodatni, czyli (a 1 b 1 + +a n b n ) 2 (b 2 1+ +b 2 n)(a 2 1+ +a 2 n)0 Z ostatniej nierówności wynika(6) Dowód twierdzenia 240 (1)Niechdlapewnegoi x i =max x 1, x 2,, x n }= x Wtedy (2) Więc x x 2 x 2 2= x 1 2 + + x n 2 x 2 2= x 1 2 + + x i 2 + + x n 2 x i 2 x 1 2 + + x n 2 +2 x 1 x 2 +2 x 1 x 3 + +2 x n 1 x n = = ( x 1 + + x n ) 2 Więc x 2 x 1 (3) Żeby udowodnić trzecią nierówność, zastosujemy nierówność Cauchy ego do ciągów x 1,, x n i1,,1istotnie, }} nrazy x 1 =1 x 1 + +1 x n 1 2 + +1 }} 2 x1 2 + + x n 2 = n x 2 nrazy (4)Niechdlapewnegoi x i =max x 1, x 2,, x n }= x Wtedy x 1 x i, x 2 x i,, x n x i Więc x 2 2 = x 1 2 + + x n 2 x i 2 + + x i 2 =n x 2 }} nrazy Wtensposób x 2 n x Wniosek242Jeżeliciągwektorów } x (k) jestzbieżnymdowektoraxwzględem jednej normy, to jest on zbieżnym względem dwóch ostatnich norm Niech A będzie kwadratową macierzą rzędu n Rozważymy operator liniowy A (cf(3)),działającywprzestrzeni R n Załóżmy,żetaprzestrzeńjestwyposażona w normę Określimy normę macierzy czyli normę operatora A korzystając z definicji Definicja 243 A =sup x R n x 0 Ax x Mówimy, że norma macierzy A czyli norma operatora A jest indukowana przez normę przestrzeni

10 ALEXANDER DENISIUK Norma macierzy wskazuje, ile razy co najwięcej może być zwiększona norma wektora przez operator: Ax A x Wszczególności A 1, A 2 i A oznaczająnormęmacierzya,gdywprzestrzeniprzyjętoodpowiednionormywektorów x 1, x 2 i x Znanesązależności: (7) A 1 = max a ij (maksymalnasumamodułówwkolumnie), (8) (9) j=1,,n A = max A 2,,n j=1 a ij (maksymalnasumamodułówwwierszu), a ij 2 i,j=1 Udowodnimy jedną korzystną własność normy macierzy Twierdzenie244 A 2 A 2 DowódRozważymyx 0JeżeliAx=0,toA 2 x=0i A2 x x =0 NiechAx 0Wtedy A2 x x = AAx Ax Ax x Ponieważ AAx Ax sup Ax x, A2 A =sup 2 x x 0 x 0 x A 2 25 Iteracyjne metody rozwiązywania układów równań liniowych Metoda iteracji polega na tym że równanie(4) przekształca się w postać iteracyjną: (10) x=mx+c i iteracje realizują się ze wzoru (11) x (k+1) =Mx (k) +c, gdziezeroweprzybliżeniex (0) jestdowolnymwektorem Metoda(11) nie jest zawsze zbieżną Dostateczny warunek zbieżności metody(11) oparty jest na pojęciu odwzorowania zbliżającego Definicja245Odwzorowanief: R n R n nazywasięzbliżającym,jeżeliistnieje liczba0<q<1,takażedlakażdychx,x R n spełnionajestnierówność f(x ) f(x ) <q x x Twierdzenie 246 Jeżeli odwzorowanie y = g(x) jest zbliżającym, to równanie (12) x=g(x) mapierwiastekx,iteracjex k+1 =g(x k )sązbieżnei x x k qk x 1 x 0 1 q

Układy Równań Liniowych 11 Dostateczny warunek zbieżności metody(11) dany jest przez następujące twierdzenie Twierdzenie247 Niech M q<1wtedymetoda (11)jestzbieżnado pierwiastkax równania(4)i x x (k) qn 1 q x (1) x (0) Dowód tego twierdzenia oparty jest na tym, że odwzorowanie, określone przez(11),jestzbliżającymistotnie,dladowolnychx,x R n spełniasię Mx + c (Mx +c) = M(x x ) M x x q x x Dalejstosujemy twierdzenie 246 Uwaga248Zbieżnośćmetody(11)niezależyaniodwektorac,aniodpoczątkowegoprzybliżeniax 0,aniodwprowadzonejnormy Uwaga 249 Twierdzenie 247 razem z wzorami(7) (9) dają dostateczne warunki zbieżności ( metody(11) Nie jest to jednak warunek konieczny Iteracji dla macierzy 1 ) M= 2 8 1 sązbieżne,lecz M 0 = M 1 =8,5, M 2 8 2 Uwaga 250 Jeżeli iteracji okazały się zbieżnymi, to granica jest rozwiązaniem układu(11) Uwaga251Wpraktycezawarunekzakończeniaiteracjiliczą x (k+1) x (k) ε, gdzie ε jest pożądaną dokładnością 26 Przekształcenie równania Ax = b do iteracyjnej postaci Żeby stosować metodę iteracyj do początkowego równania(4), trzeba przekształcić go w postać(10) Każdy układ (13) x=x D(Ax b)=(i DA)x+Db, gdzie 1 0 0 0 1 0 I= macierzjednostkowa, 0 0 1 mapostać(10)iprzydetd 0jestrównoważnyukładowi(4)Każdyukład(10) równoważnyukładowi(4)możebyćzapisanywpostaci(13)zmacierząd=(i M)A 1 StosującróżnychrodzajówmacierzeD,możnaotrzymaćróżnepostaci metod iteracyjnych, które mają swoje warunki zbieżności 27 Metoda Jacobiego Niech macierz A układu(4) jest rozłożona na składniki (14) A=L+N+U, gdzie L jest macierzą poddiagonalną, N macierzą diagonalną, a U macierzą naddiagonalną; np 1 2 3 4 5 6 = 0 0 0 4 0 0 + 1 0 0 0 5 0 + 0 2 3 0 0 6 7 8 9 7 8 0 0 0 9 0 0 0

12 ALEXANDER DENISIUK Przyjmującw(13)D=N 1,czyliM= N 1 (L+U),otrzymujemywzórJacobiego: (15) x (k+1) = N 1 (L+U)x (k) +N 1 b, k=1,2, a 11 0 0 0 a 22 0 Dla diagonalnej macierzy N = 0 0 a nn a 1 11 0 0 odwrotnamacierzn 1 0 a 1 22 0 =, więcprzezwspółrzędnemetoda(15) zapisze się jako 0 0 a 1 nn ( ) x 1(k+1) = 1 a a12 11 x 2(k) a 13 x 3(k) a 1n x n(k) +b 1, ( ) x 2(k+1) = 1 (16) a a21 22 x 1(k) a 23 x 3(k) a 2n x n(k) +b 2, ( ) x n(k+1) = 1 a an1 nn x 1(k) a 21 x 2(k) a nn 1 x n 1(k) +b n Aby móc zastosować wzór(15), należy uprzednio tak zmienić kolejność równań układu(4), aby na przekątnej były elementy niezerowe Zrobić to możliwe w sposób, analogiczny przestawieniu równań w metodzie Gaussa z wyborem elementu głównego(v rozdział 23) Żeby sformułować dostateczne warunki zbieżności metody Jacobiego przyjmiemy dwie definicje Definicja 252 Macierz A jest silnie diagonalnie dominująca, jeżeli moduły elementów na przekątnej są większe od sumy modułów pozostałych elementów stojącychwtymsamymwierszu,ie a ii > a ij,,2,,n j=1 j i Definicja 253 Macierz A jest silnie diagonalnie dominująca kolumnowo,macierz silnie diagonalnie dominująca kolumnowo jeżeli moduły elementów na diagonali są większe od sumy modułów pozostałych elementów stojących w tej samej kolumnie,ie a jj > a ij, j=1,2,,n i j Twierdzenie 254 Jeśli macierz A jest silnie diagonalnie dominująca albo silnie diagonalnie dominująca kolumnami, to metoda Jacobiego(15) jest zbieżna Dowód Zauważymy najpierw, że w obu przypadkach elementy na diagonali są niezerowe Zbieżność metody wynika z twierdzenia 247 i wzorów(7) i(8), ponieważ w pierwszymprzypadku N 1 (L+U) <1,wdrugim N 1 (L+U) 1 <1

Układy Równań Liniowych 13 28MetodaGaussa-SeidlaNiechjakwyżej(v(14))A=L+N+U,toprzyjmującw(13)D=(L+N) 1,czyliM = (L+N) 1 Uotrzymujemymetodę Gaussa-Seidla: (17) x (k+1) = (L+N) 1 Ux (k) +(L+N) 1 b Na pierwszy rzut oka wzór ten zawiera skomplikowany problem odnalezienia macierzyodwrotnej(l+n) 1 Jednakmnożącobiestrony(17)przezL+N,otrzymamy równoważną równość Nx (k+1) = Lx (k+1) Ux (k) +b Przy obliczaniu pierwszej współrzędnej wektora z prawej strony tej równości nie wystąpiżadnawspółrzędnawektorax (k+1) Zatemdzieląctęrównośćprzeza 11 obliczymyx 1(k+1) Następnieprzyobliczaniux 2(k+1) potrafimyobliczyćprawąstronę równości,gdyżzależyonajedynieodx 1(k+1) orazx (k) itdwtensposóbprzyobliczaniukolejnejskładowejwektorax (k+1) korzystamyzobliczonychjużpoprzednio składowych, co w wielu przypadkach podnosi efektywność tego algorytmu w porównaniu z algorytmem Jacobiego: ( ) x 1(k+1) = 1 a a12 11 x 2(k) a 13 x 3(k) a 1n x n(k) +b 1, ( ) x 2(k+1) = 1 (18) a a21 22 x 1(k+1) a 23 x 3(k) a 2n x n(k) +b 2, ( ) x n(k+1) = 1 a an1 nn x 1(k+1) a 21 x 2(k+1) a nn 1 x n 1(k+1) +b n Analogicznie do twierdzenia 254 można udowodnić następujący warunek zbieżności metody Gaussa-Seidla Twierdzenie 255 Jeżeli macierz A jest silnie diagonalnie dominująca albo silnie diagonalnie dominująca kolumnami, to metoda Gaussa-Seidla jest zbieżna Inny warunek zbieżności opiera się na pojęciach symetryczności(definicja 210) i dodatniej określoności macierzy Definicja 256 Macierz A nazywa się dodatnio określoną, jeśli dla dowolnego niezerowegowektorax R n spełnia a ij x i x j >0 i,j=1 Twierdzenie 257 Jeśli macierz A jest symetryczna i dodatnio określona, to metoda Gaussa-Seidla jest zbieżna Lemat258MacierzA t Ajestsymetrycznąi,jeżeliAjestnieosobliwą,toA t A jest dodatnio określoną Dowód (1)MacierzC=A t Amawyrazyc kl = n a t ki a il= n a ik a il Podczas c lk = n a t li a ik= n a il a ik Więcc kl =c lk (2)Dladowolnegoniezerowegowektorax R n c kl x k x l = k,l=1 i,k,l=1 a il a ik x k x l = = ( n n a il x l a ik x k )= l=1 k=1 ( n ) 2 a il x l >0, ponieważ z nieosobliwości(definicja 231) macierzy A wynika, że w ostatniej sumie wszystkie składniki nie mogą być jednocześnie zerowymi l=1

14 ALEXANDER DENISIUK Twierdzenie 259 Jeżeli macierz A jest nieosobliwą, to (1)układA t Ax=A t bjestrównoważnymukładowiax=b, (2)dlaukładuA t Ax=A t bmetodagaussa-seidlajestzbieżną 3 Przykładowe układy równań Układ, mający złą macierz: 696x 1 021x 2 +228x 3 +17x 4 622x 5 648x 6 = 1589, 426x 1 003x 2 +126x 3 +098x 4 392x 5 397x 6 = 994, 26x 1 018x 2 +102x 3 +072x 4 230x 5 240x 6 = 574, 166x 1 +015x 2 +024x 3 +026x 4 162x 5 156x 6 = 419, 095x 1 033x 2 +078x 3 +046x 4 068x 5 084x 6 = 156, 071x 1 +048x 2 054x 3 021x 4 094x 5 072x 6 = 264 Układ, mający dobrą macierz: 696x 1 021x 2 +228x 3 +17x 4 622x 5 648x 6 = 107, 426x 1 +003x 2 +126x 3 +098x 4 392x 5 397x 6 = 987, 26x 1 018x 2 102x 3 +072x 4 230x 5 240x 6 = 778, 166x 1 +015x 2 +024x 3 026x 4 162x 5 156x 6 = 471, 095x 1 033x 2 +078x 3 +046x 4 +068x 5 084x 6 = 02, 071x 1 +048x 2 054x 3 021x 4 094x 5 +072x 6 = 12 Literatura [1] Z Fortuna, B Macukow, J Wąsowski: Metody numeryczne, Warszawa, WNT 2006 [2] Przemysław Kajetanowicz, Jędrzej Wierzejewski: Algebra z geometrią analityczną, Wydawnictwo PWN, 2008 [3] Aleksiej I Kostrikin: Wstęp do algebry cz 2, algebra liniowa Wydawnictwo PWN, 2004 [4] D Kincaid, W Cheney: Analiza numeryczna, Wydawnictwa Naukowo-Techniczne, Warszawa 2006 [5] P Krzyżanowski, L Plaskota: Metody numeryczne, MIMUW, http://wazniakmimuw edupl/indexphp?title=metody_numeryczne E-mail address: denisjuk@pjwstkedupl Polsko-Japońska Wyższa Szkoła Technik Komputerowych, Zamiejscowy Ośrodek Dydaktyczny w Gdańsku, ul Brzegi 55, 80-045 Gdańsk