Rozkłd mcierzy wedłg wrtości szczególnych Wprowdzenie Przypomnimy podstwowe zleżności związne z zstosowniem metody nmnieszych kwdrtów do proksymci fnkci dyskretne Podstwowe równnie m nstępącą postć: + m n m n m m n n m y y y L L L, gdzie: y i f i, i,,, m est zbiorem znnych wrtości relizownego proces w postci np próbek pomirowych,,,,, n nieznne współczynniki model proces, i błędy proksymci, i fnkce definiące model proces Równnie możn zpisć w skrócone formie mcierzowe: y + Średniokwdrtowe kryterim minimlizci błęd proksymci prowdzi do nstępącego równni normlnego y, n podstwie którego możn określić rozwiąznie: y y +, 4 gdzie: mcierz prostokątn + est nzywn mcierzą psedoodwrotną mcierzą oore -Penrose Rozkłd SVD Rozwiąznie zdni nmnieszych kwdrtów w formie lb 4, tkże w innych podobnych przypdkch może niekiedy prowdzić do dżych błędów ze względ n to, że mcierz może być źle wrnkown 4 W tkim przypdk w miesce mcierzy psedo-odwrotne ogólnione odwrotności mcierzy stose się nstępące przeksztłcenie: 4 Określ to wskźnik wrnkowni, który w tym przypdk est definiowny ko ilorz nwiększych i nmnieszych wrtości szczególnych Ukłd est źle wrnkowny, gdy wskźnik ten przyme dże wrtości []
Rozkłd mcierzy wedłg wrtości szczególnych 9 + VW U gdzie mcierze po prwe stronie równni są elementmi rozkłd mcierzy wedłg wrtości szczególnych: UWV 6 przy czym, mcierz W est tworzon z wrtości szczególnych mcierzy Rozptrzmy bliże ten rozkłd Nleży zwżyć, że mcierz est symetryczn, e wrtości włsne λ,,,, n są rzeczywiste i nieemne [] Pierwistki tych wrtości włsnych nzywne są wrtościmi szczególnymi mcierzy : λ,,,, n 7 Niezerowe wrtości szczególne > spełnią nstępące równni [6]: orz,,,, r, r min m, n rząd mcierzy 8 gdzie: i, i,,, m normowne wektory włsne mcierzy ;,,,, n normowne wektory włsne mcierzy Wektory tworzą mcierz ortogonlną m m: [ L ] U, 9 m ntomist z wektorów i tworzon est ortogonln mcierz n n: [ L ] V n Poniewż obie powyższe mcierze są ortogonlne, więc: U U V V VV I Włściwość t est spełnion tkże dl przypdk, gdy mcierz est zespolon i wówczs mcierze U orz V są nitrne [] Podobnie est z tworzącymi e wektormi: i i I dl wszystkich wrtości i orz cierz W m n, 6 est nstępąc: Σ W Rząd mcierzy r est nwiększą liczbą niezleżnych wierszy lb kolmn mcierzy
etody nmeryczne w technice gdzie: Σ, r rząd mcierzy 4 L r Przez mcierz odwrotną W - nleży rozmieć mcierz o nstępące strktrze: Σ W, gdzie: / / Σ L / r Zleżność 6 est nzywn rozkłdem mcierzy wedłg wrtości szczególnych ng SVD Singlr Vle Decomposition W ogólnym przypdk mcierz m wymir m n, co ozncz, że mcierze rozkłd wedłg wrtości szczególnych mą wymiry k n rys U W V m n m m m n n n U W V b m n m n n n n n Rys Rozmiry mcierzy rozkłd wedłg wrtości szczególnych: kłd podstwowy, b kłd oszczędny ożn zwżyć, że mcierz W w dolne części poczynąc od wiersz n+-go zwier zer, co ozncz, że kolmny mcierzy U dl tych smych nmerów mogą być pominięte W ten sposób otrzymemy kłd mcierzy k n rys b Nleży tylko zgodnić, które części mcierzy U orz V mogą być pominięte W tym cel
Rozkłd mcierzy wedłg wrtości szczególnych możn npierw obliczyć wrtości włsne i wektory włsne mcierzy orz mcierz modlną V, nstępnie zstosowć zleżność 8 do obliczeni wektorów włsnych mcierzy orz mcierzy modlne U 9: 6 Zwżmy, że wrtości włsne i związne z nimi wektory włsne nie mszą być t porządkowne wedłg mleących wrtości [6], chociż zbieg tki est dokonywny w różnych progrmch profesonlnych Dotyczy to tkże mcierzy Σ 4 Osttecznie, mcierze rozkłd oszczędnego rys b wedłg wrtości szczególnych są obliczne zgodnie z nstępącym lgorytmem Utworzyć mcierz A i obliczyć e wrtości włsne λ orz związne z nimi wektory włsne,,,, n Przeprowdzić normlizcę wektorów: :,,,n i tworzyć mcierz V n n [,, n ] Obliczyć wrtości szczególne mcierzy : λ >,,,, r dl dodtnich wrtości włsnych λ, r rząd mcierzy Określić wektory włsne mcierzy : i, i,,, n zgodnie z 6 orz tworzyć mcierz U m n [,, n ] 4 Utworzyć mcierz W r r Σ 4 W przypdk rozkłd podstwowego pełnego, U est mcierzą kwdrtową m m i w p nleży zpełnić tę mcierz wektormi, które są normowne i są prmi ortogonlne z pozostłymi wektormi tworzącymi mcierz 6 Jeśli m>n, to w p 4 nleży zpełnić zermi dolne wiersze mcierzy W, któr m terz wymir m n W przeciwnym przypdk m<n, zer nleży wstwić w wolnych prwych kolmnch mcierzy W Przykłd Dl podne mcierzy określić rozkłd wedłg wrtości szczególnych Złożyć, że mcierze rozkłd mą kłd oszczędny A Procedrę obliczni rozkłd wedłg wrtości szczególnych prowdzimy zgodnie z podnym lgorytmem 4 B A A 8 8 8 9 Korzystąc z fnkci ALAB obliczmy wrtości włsne i znormlizowną mcierz V: 6 kie wektory tworzą bzę ortonormlną []
etody nmeryczne w technice B[4 ; 8-8; -8 9]; [V,L]eigB; skąd otrzymemy:,8746,4,4,86 V,9,9,94, L 8,6,7,9,9 4,99 Pierwistki elementów z przekątne mcierzy L są wrtościmi szczególnymi mcierzy A, więc:,964 Σ,96 6 Widć, że rząd mcierzy r n Wektory tworzące mcierz U obliczmy zgodnie z 6:,649,8746 A /,9 /, 964,967 i podobnie:,686,7,877,799,4 A / 6, A /,97,484,476, 98,84 Osttecznie, otrzymemy mcierz U:,649,799,4 U [ ],967,6,97,686,484,476 877,98,84 ożn sprwdzić, że dl obliczonych mcierzy zleżność 6 est spełnion ożn tkże porównć zyskne wyniki z rezlttmi otrzymnymi wedłg procedr progrm ALAB W tym przypdk nleży wykonć nstępący progrm: A[ ; ; ; -]; [U,S,V]sdA,; Powyższ procedr sd oblicz wrtości szczególne w odwrotne koleności, przez co mogą wystąpić różnice w koleności wektorów włsnych w mcierzy U orz ich znków, ednk relce, 6 pozostą w mocy Koleny przykłd [6] pokze przypdek, gdy rząd mcierzy r< n, poszkiwne są mcierze pełnego rozkłd Przykłd Określić mcierze pełnego rozkłd wedłg wrtości szczególnych podne mcierzy A A,6,,6,8
Rozkłd mcierzy wedłg wrtości szczególnych Łtwo zwżyć, że rząd mcierzy r, gdyż nwiększ podmcierz o niezerowym wyzncznik m rozmir Obliczmy mcierz A A:,6,6 B A A,,8,6, 4,6,8 Wielomin chrkterystyczny tworzymy n podstwie wyzncznik mcierzy: detb λi λ4 λ λ Przymemy nstępącą koleność wrtości włsnych: λ, λ 4, λ, z których wyniką wrtości szczególne mcierzy A ko ich pierwistki dodtnie:,, e osttnie definią mcierz Σ: Σ orz mcierz W 4 dl pełnego rozkłd: Σ W worzymy wektory włsne powiązne z obliczonymi wrtościmi włsnymi: B λ I, skąd:,, może być dowolne t i podobnie dl pozostłych wrtości włsnych Osttecznie, wektory włsne mcierzy B są nstępące: [ ], [ ], [ ] nie są określone ednozncznie Stąd otrzymemy: V [ ] cierz U określmy zgodnie z 6:,6,6,6,,8 A / /`,8 i podobnie:,6,6,8,,8 A / /`,6 Wektor nie może być wyznczony w podobny sposób, gdyż cierz U tworzą wektory, w osttnich dwóch kolmnch dopełnimy mcierz wektormi: [ ], [ 4 ] innymi wektormi mcierzy:, które mą normę i pozostą prmi ortogonlne z
etody nmeryczne w technice 4 U,8 8,6,6, ożemy sprwdzić, że:,8,,6,6,8 8,6,6, UWV A Obliczenie mcierzy pełnego rozkłd wedłg wrtości szczególnych możn zyskć w progrmie ALAB z pomocą nstępące procedry: A[ -6 6; 8; ; ]; [U,S,V]sdA; Otrzymmy nstępące mcierze: U,6 8,6,8,, S, V Widć, że odpowiednie mcierze zyskne wedłg ob zstosownych procedr nieco się różnią, co wynik z dże dowolności przymowni różnych złożeń, ednk w ob przypdkch zyske się poprwne rozwiązni Podny lgorytm możn tkże stosowć w odniesieni do mcierzy A w przypdk, gdy m n Przykłd Określić mcierze pełnego rozkłd wedłg wrtości szczególnych podne mcierzy A A Widć, że rząd mcierzy r, gdyż nwiększ podmcierz o niezerowym wyzncznik m rozmir Obliczmy mcierz A A: B A A 9 Łtwo sprwdzić, że różne od zer wrtości włsne są nstępące: λ, λ 9, dl których wrtości szczególne mcierzy A mą nstępące wrtości:,, pondto: e osttnie definią mcierz Σ: Σ orz mcierz W 4 dl pełnego rozkłd:
Rozkłd mcierzy wedłg wrtości szczególnych Σ W worzymy wektory włsne powiązne z obliczonymi wrtościmi włsnymi: 6 4 I B λ, skąd: może być dowolne t,,, 4 i podobnie dl pozostłych wrtości włsnych Osttecznie, wektory włsne mcierzy B są nstępące: [ ], [ ], [ ], [ ] 4 Stąd otrzymemy: [ ] 4 V cierz U określmy zgodnie z 6: / A /` i podobnie: / A /` Wektor nie może być wyznczony w podobny sposób, gdyż cierz U tworzą wektory więc, w osttnie kolmnie dopełnimy mcierz wektorem: [ ], który m normę i pozoste prmi ortogonlny z innymi wektormi mcierzy: U ożemy sprwdzić, że: UWV A Obliczenie mcierzy pełnego rozkłd wedłg wrtości szczególnych możn zyskć w progrmie ALAB z pomocą nstępącego progrm: A[ ; ; ]; [U,S,V]sdA; ym rzem otrzymmy tkie sme mcierze, k powyże
6 etody nmeryczne w technice Jednym z zstosowń rozkłd mcierzy wedłg wrtości szczególnych est rozwiązywnie problemów proksymci z pomocą metody nmnieszych kwdrtów Wówczs w równni określącym współczynniki fnkci proksymące 4 nleży podstwić mcierz psedo-odwrotną określoną wedłg Przy tym, zleżność 4 przybier nstępącą formę: VW U y, 7 gdzie: A VW U + est psedoodwrotnością mcierzy A [6] Koleny przykłd ilstre tkie włśnie zstosownie rozkłd SVD Przykłd 4 Dn est fnkc dyskretn f i y i w przedzile, : y,,, 9, Określić fnkcę g, któr proksyme podną fnkcę w sensie NK Przyąć, że est to fnkc w postci wielomin II stopni Formemy model związny z postwionym zdniem: i + i + yi, i,,,, co możn zpisć w postci nstępącego równni: y, gdzie:, 4 nieznny wektor,, y 9 9 cierze rozkłd mcierzy wedłg wrtości szczególnych określimy z pomocą progrm ALAB Dl kłd oszczędnego progrm est nstępący: A[ ; ;4 ;9 ]; [U,S,V]sdA,; Po wykonni procedry otrzymemy:,9,94,77,64 U,,688,8, S, 464,67,48,8,,8947,8,6,9,986, 68, 66 V, 44,66, 8644, 77,89,4 Po wykonni 7 otrzymmy:,8,4, ztem fnkc proksymąc m nstępącą postć:, g,8,4 +, N rys pokzne są przebiegi ob tych fnkci
Rozkłd mcierzy wedłg wrtości szczególnych 7 Rys Przebiegi fnkci dyskretne y orz proksymące g Zdni Określić mcierze rozkłd podnych mcierzy wedłg wrtości szczególnych A, b A c A d A Określić psedoodwrotności podnych mcierzy n podstwie rozkłd mcierzy wedłg wrtości szczególnych 9 4 A, b A c A d A Obserwowny proces est modelowny z pomocą nstępące zleżności liniowe: g + Określić współczynniki model n podstwie dokonnych pomirów proces:, y {,,,,,, } b, y {,,,,,, 4, } c, y {,,,, 4, -} d, y {,,,,,, 4, -} Nrysowć przebieg proksymące fnkci n tle rezlttów pomir