ANALIZA TEKSTUR W OBRAZACH CYFROWYCH I JEJ ZASTOSOWANIE DO OBRAZÓW ANGIOGRAFICZNYCH

Transkrypt

1 POLITECHNIKA WARSZAWSKA WYDZIAŁ ELEKTRONIKI I TECHNIK INFORMACYJNYCH INSTYTUT AUTOMATYKI I INFORMATYKI STOSOWANEJ mgr n. Ewa Sntkowska ANALIZA TEKSTUR W OBRAZACH CYFROWYCH I JEJ ZASTOSOWANIE DO OBRAZÓW ANGIOGRAFICZNYCH Promotor: dr hab. Włodzmerz Kasprzak Warszawa 4

2 Sps trec. WPROWADZENIE CEL PRACY PODSTAWY ANALIZY TEKSTUR Pojce tekstury Parametry statystyczne perwszego rzdu Hstogramy sum rónc Macerz spójnoc wartoc jasnoc.... HEURYSTYCZNE PRZEKSZTAŁCENIA OBRAZU HEURYSTYCZNE LINIOWE PRZEKSZTAŁCENIA WZORCA Baza ortogonalna Transformata Fourera (DFT) Przekształcene Walsha-Hadamarda Transformata falkowa Funkcje Gabora..... OPIS TEKSTURY W MPEG-7 (DESKRYPTORY)..... Wyznaczane energ Deskryptor tekstury jednorodnej Deskryptor przegldana tekstury Deskryptory tekstury w analze obrazów ANALITYCZNE PRZEKSZTAŁCENIA OBRAZU PRZEKSZTAŁCENIE PCA ICA ANALIZA CZYNNIKOWA (FACTOR ANALYSIS) DETEKCJA CECH DZIKI DEKOMPOZYCJI ICA OPIS METODY PROCES UCZENIA WEKTORÓW BAZOWYCH Przetwarzane wstpne Algorytm ICA DETEKCJA CECH A ANALIZA OBRAZU I KLASYFIKACJA OBRAZY ANGIOGRAFICZNE KLASYFIKATORY CECH PROBLEM KLASYFIKACJI Podstawowe typy klasyfkatorów numerycznych KLASYFIKATOR STATYSTYCZNY BAYESA Uczene klasyfkatora Reguła decyzyjna Klasyfkator według mnmalnej odległoc KLASYFIKATOR K NAJBLISZYCH SSIADÓW KLASYFIKATOR SVM Funkcje kosztu emprycznego Próbk separowalne lnowo Próbk ne separowalne lnowo KLASYFIKATOR NEURONOWY Klasyfkator zastosowany w testach EKSPERYMENTY DOTYCZCE DETEKCJI CECH TEKSTUR OBRAZY TESTOWE Tekstury z albumu Brodatz a Obrazy angografczne WYNIKI DETEKCJI CECH

3 7.. Wektory cech oparte o fltry Gabora Wektory cech oparte o PCA Wektory cech oparte o ICA PORÓWNANIE WEKTORÓW CECH Kryterum porównywana obszaru cech Wynk porównana obszarów cech EKSPERYMENTY DOTYCZCE KLASYFIKACJI TEKSTUR ZAŁOENIA KLASYFIKATOR BAYESA KLASYFIKATOR NN KLASYFIKATOR NEURONOWY KLASYFIKATOR SVM ZAKOCZENIE PODZIKOWANIA SPIS RYSUNKÓW... SPIS TABEL... BIBLIOGRAFIA

4 . Wprowadzene.. Cel pracy Jedn z metod wykorzystywanych w analze obrazów cyfrowych ([54], [66], [4]) jest analza tekstury ([7], [5], []). Tekstura reprezentuje take włacwoc obrazu jak kerunkowo (kerunek układana s wzorca) czy porowato. Tekstura jest włacwoc nejednorodnego obszaru w obraze. Na tej podstawe mona rozrón dwa obrazy od sebe, jak równe wyznaczy w danym obraze obszary spełnajce okrelone warunk. Tekstur obrazu mona symbolczne opsa poprzez podane wartoc dla skoczonego wektora cech. Wymar tego wektora jest zwykle duo nszy n lczba pksel w opsywanym fragmence obrazu. Wyszukwane w obrazach cyfrowych obszarów o okrelonych włacwocach moe zosta wykorzystane w rónych zastosowanach, np. w celu okrelena zman sceny (montorng), wyszukwana okrelonych obrazów z bazy, a take w analzach medycznych. Do okrelena charakteru tych obszarów stosuje s róne opsy od metod czysto statystycznych, poprzez detekcj dyskretnych segmentów, a po te oparte na ludzkej percepcj. Angografa jest to metoda dagnostyczna wykorzystywana w medycyne, która polega na badanu kontrastowym naczy krwononych. W przeprowadzonych testach chodz o okrelene przyrostu (lub zankana) naczy krwononych w tkance pod wpływem badanego preparatu. Tego typu dagnoza wykorzystywana jest m. n. w terap nowotworów. W - 3 -

5 nektórych przypadkach ne jest koneczne dokładne okrelene lczby naczy, a jedyne stwerdzene zman. Spodzewamy s, e analza włacwoc tekstury poszczególnych obszarów pozwol wykry sklasyfkowa stan naczy krwononych, co ułatw dalsz analz, dokonywan przez specjalst. Poszukujemy takej reprezentacj, która pozwol na skuteczn klasyfkacj obszarów nezalene od obrotu obrazu, zakresu ntensywnoc pksel czy skal obrazu. Kolejnym celem tej pracy jest znalezene molwe najdokładnejszego klasyfkatora dla opracowanej reprezentacj (cech) tekstury, przy czym weryfkacja jego skutecznoc bdze przeprowadzona dla obrazów medycznych. Znane z lteratury s główne trzy typy algorytmów: - cechy oparte o fltry Gabora (deskryptory tekstury MPEG-7) ([4], [9], [7]), - cechy oparte o PCA (analza składowych głównych popularny sposób redukcj nformacj) ([6], [85], [99], [6]), - cechy oparte o tzw. macerz spójnoc jasnoc (standardowa metoda opsu tekstur w obrazach) [9]. Głównym celem tej pracy jest wykazane przydatnoc podejca ICA (ang. Independent Component Analyss analza składowych nezalenych ([3], [37], [49]) do analzy tekstur, w szczególnoc w przypadku obrazów angografcznych. Typowe podejca do detekcj cech wykorzystywane w problemach reprezentacj lub kompresj obrazu cyfrowego - w oparcu o lnowe przekształcene [75], take jak Fourera, Hadamarda, transformata kosnusowa [85] czy fltry Gabora ([4], [7]) ne s dopasowane do konkretnych obrazów danego rodzaju, gdy maj unwersalny charakter. W przecwestwe do nch przekształcena uzyskwane w wynku analzy PCA (analza składowych głównych) lub ICA (przewdzana przez nas analza składowych nezalenych) s estymowane w oparcu o same dane uczce przykłady obrazów danego rodzaju. Z tych dwóch metod PCA przeznaczona jest raczej do kompresj orentujc s na podobestwa obrazów rónych klas a ICA pownna nadawa s do klasyfkacj, gdy orentuje s na rónce pomdzy obrazam rónych klas [46]. ICA jest odman statystycznego projecton pursut, czyl poszukwana cekawych (oddajcych struktur rozkładów statystycznych) rzutów welowymarowych danych. Rozkład Gaussa jest najmnej cekawy, natomast kerunk najmnej gaussowske s najcekawsze. Obszary w przestrzen - 4 -

6 ne pokrywane przez nezalene składowe s wypełnane przez szum Gaussa - znajdujc kerunk ne-gaussowske znajdujemy efektywne nezalene składowe, czyl docelowe ose przestrzen cech. Nnejsza praca ma wykaza, e odpowedno doberajc (do próbek danych) ju same przestrzene cech tekstury (a ne dopero na pó nejszym etape klasyfkacj unwersalnych przestrzen cech), mona stworzy narzdze duo skutecznejsze w analze tekstur, n dotychczas znane metody. W skład narzdza programowego, wykorzystanego do testów, wchodz zarówno detekcja cech, jak klasyfkator cech. Badane bd podstawowe typy klasyfkatorów: klasyfkator Bayesa, klasyfkator SVM (lnowa maszyna wektorów nonych) klasyfkator neuronowy ([], [73], [8]). Wybrany klasyfkator pownen spełna nastpujce warunk: - pozwol na wyłonene najwkszej lczby klas przy zachowanu wysokego stopna poprawnoc klasyfkacj - ne popełna krytycznych błdów klasyfkacj. W przypadku obrazów angografcznych analza tekstury moe stanow etap wstpny do bardzej precyzyjnych oblcze, np. zwzanych z krtoc naczyna. Aplkacja tego typu moe by narzdzem pomocnczym w dagnostyce. Naley przede wszystkm wz pod uwag ryzyko zwzane z automatyzacj procesu. Wprawdze podejmowane decyzj lekarskej wyłczne na podstawe wynk klasyfkatora jest raczej newskazane, nemnej jednak wspomnany program moe by stotnym wsparcem w pracy eksperta, np. jako narzdze do pre-selekcj. Tezy rozprawy s nastpujce:. Odpowedno doberajc reprezentacj cech tekstury do rzeczywstych danych klasyfkator, dla którego okrelono koszty ryzyka błdnej klasyfkacj, mona stworzy narzdze skuteczne pomocne w analze obrazów.. Dla wybranego rodzaju obrazów (w tym przypadku obrazy angografczne) metoda ICA pozwala na lepsz spójno cech tej samej klasy rozdzał cech rónych klas (n nne proponowane podejca), a take ułatwa poprawn klasyfkacj. Praca powstała dzk badanom prowadzonym w ramach grantu KBN nr 7T8A56, dotyczcego analzy obrazów angografcznych oraz grantu Mnsterstwa Nauk Informatyzacj 3TA

7 E. Sntkowska Analza tekstur w obrazach cyfrowych.. Podstawy analzy tekstur.. Poj ce tekstury Tekstura reprezentuje regularne cechy powerzchn obektu patrz c na obraz mo emy powedze, czy przedstawa on obekt gładk (np. powerzchna szyby) lub chropowaty (np. kora drzewa), a tak e czy prezentowany wzorzec jest mnej lub bardzej regularny. Człowek decyduje o rodzaju tekstury na podstawe obserwacj pewnych newelkch wzorów, których regularne rozmeszczene pozwala na klasyfkacj. D9 (trawa) D (kora) D5 (słoma) D9 (materał wełnany) D9 (pasek pla y) D38 (woda) D68 (słoje drzewa) D84 (rafa) D94 (ceglana cana) D (plastkowe p cherzyk) Rysunek. Przykłady tekstur z albumu Brodatz a ( ródło: [7]). Popularnym przykładam tekstury, cz sto wykorzystywanym w badanach porównawczych metod analzy tekstury s tekstury z albumu Brodatz a [7]. Jednak łatwo zauwa y, e obrazy angografczne, czyl przedstawaj ce układ naczy krwono nych, ró n s tekstur od typowych obrazów Brodatz a. (a) (b) (c) Rysunek. Przykładowe obrazy angografczne: (a) (b) - tkanka skórna myszy, (c) - zarodek kurzy -6-

8 Aby scharakteryzowa tekstur matematyczne, wprowadzono szereg parametrów oblczanych na podstawe włacwoc obrazu cyfrowego. W lteraturze mona spotka nastpujce typy parametrów słucych do opsu tekstury: - statystyczne [7], - strukturalne [], - wykorzystujce technk przetwarzana sygnałów [57], - morfologczne ([], [64], [68]). W analze tekstur stosuje s technk zwan granulometr morfologczn [8]. Obraz traktowany jest jako zbór zaren, które mog by nastpne przesewane przez zwkszajce s oka w swego rodzaju sce. Te, które zostan, merzone s jako welkoc rozkładu granulometrycznego. Dla potrzeb defncj operacj morfologcznych obrazów w skal szaroc obraz I(,j) traktowany jest jako funkcja dwóch zmennych, przyjmujca wartoc ze zboru lczb rzeczywstych. Z kole przesewane obrazu przez sto o zmenajcych s welkocach oka realzowane jest w praktyce przez operacje morfologczne obrazu, czyl zamykane otwerane odpowednm elementem strukturujcym. Sekwencja obrazów, powstajcych w wynku takego przekształcena, tworzy cg malejcy. Sekwencj tego typu nazywamy granulometr [9]. Odwrotnoc granulometr otwerajcej jest granulometra zamykajca. Nnejsza praca ne obejmuje metod morfologcznych. Metody morfologczne nale do dzedzny segmentacj obrazu, natomast celem pracy jest analza metod opartych o transformacj przestrzen reprezentacj obrazu... Parametry statystyczne perwszego rzdu Aby ułatw opsywane cech tekstury, wprowadzono szereg parametrów wylczanych na podstawe obrazu cyfrowego [63]. Parametry te odzwercedlaj lczbowo włacwoc tekstury, które mona wykorzysta do analzy klasyfkowana. Podstaw oblczana parametrów statystycznych perwszego rzdu jest hstogram jasnoc obrazu, opsujcego lczb pksel majcych zadan jasno. Obraz o N pozomach jasnoc - 7 -

9 ma hstogram o N prkach. Na tej podstawe wyznaczane jest prawdopodobestwo wystpena danego pozomu jasnoc w obraze. H ( ) P( ), (.) n gdze: P() prawdopodobestwo wystpena danego pozomu jasnoc w obraze, H() lczba punktów o jasnoc w obraze, n lczba wszystkch punktów (pksel). Na podstawe hstogramu mona wyznaczy parametry, które opsuj globalne cechy obrazu w danym obszarze s stosunkowo proste do wyznaczena ([3], [3], [5], [53], [6]). Ne mona ch jednak wykorzysta do okrelena wygldu obrazu (np. stopna porowatoc). Jednym z podstawowych parametrów obrazu jest warto redna (jasnoc). Okrela ona redn jasno obrazu lub danego obszaru wyznaczana jest według wzoru: m P( ). (.) N Kolejnym parametrem wyznaczanym na podstawe hstogramu jasnoc jest odchylene standardowe, które okrela globaln zmenno pksel danego obrazu. Parametr ten wyznacza s według wzoru: σ N ( m) P( ). (.3) Skono hstogramu charakteryzuje stope asymetr rozkładu jasnoc wokół jego rednej okrelana jest manem współczynnka asymetr. Skono dodatna oznacza rozkład z asymetrycznym ogonem rozcgajcym s w kerunku coraz wyszych wartoc dodatnch, natomast skono ujemna rozkład z asymetrycznym ogonem rozcgajcym s w kerunku wartoc blszych zeru. Parametr ten wyznacza s na podstawe zalenoc: - 8 -

10 N 3 S ( m) P( ). 3 (.4) σ Dwa kolejne parametry ne maj swoch bezporednch odpowednków w statystyce matematycznej, ale zalczane s do opsywanej grupy ze wzgldu na fakt, e wyznacza s je na podstawe hstogramu jasnoc charakteryzuj one jej rozkład w obraze. Energa wyznaczana jest na podstawe wzoru: E P N ( ), (.5) natomast entropa z nastpujcego wzoru. Ent P( ) log ( P( ) ) (.6) N Parametry te charakteryzuj jedyne globalne włacwoc tekstury w obraze s wralwe na wszelke szumy zakłócena oraz sposób standaryzacj obrazu...3 Hstogramy sum rónc Innym sposobem jest utworzene hstogramów sum rónc par pksel odległych od sebe wzdłu rónych kerunków. Nech f j;k f j+v;k+v bd dwoma pkselam przesuntym o wektor v(v; v). Nech suma rónca dla tych pksel wynosz odpowedno: s f + f j; k j; k j+ v; k + v oraz d f f. j; k j; k j+ v; k + v (.7) Oblczmy hstogramy dla sum rónc: H H s ( l) f j k s j; k l ( m) f d m d j k j; k ;, (.8) ;, (.9) gdze oznacza lczb elementów (moc) zboru

11 Nastpne hstogramy te normowane s wzgldem lczby punktów. h h d s ( l) ( m) l H m H s H d H ( l) ( l) s ( m) ( m) d (.) (.) Dla tak przygotowanych hstogramów mona wyznaczy wartoc cech statystyk opsanych w rozdzale... Przykładowy zestaw omu cech po cztery cechy wylczone na podstawe kadego hstogramu:. wartoc redne L l c lh s ( l), mh d ( m) L ml+ c (.). momenty -go rzdu 3. kontrasty 4. entrope L l c ( h s ( l) ), ( h d ( m) ) 3 L l 4 L ml+ c (.3) c ( l c ) h s ( l), ( m c ) h d ( m) 5 6 L ml+ c (.4) L l c h ( l) log ( h ( l) ), h ( m) ( h ( m) ) 7 s s 8 L ml+ c log (.5) d d W praktyce wyznacza s pary hstogramów dla czterech kerunków wektora v, co daje w sume 3 cechy tekstury. Lczba cech zaley od wymaga uytkownka mog to by np. warto redna, odchylene standardowe, kontrast energa zob. przykłady powyej. Daje to dwa razy wksz lczb parametrów do analzy, przy czym lo ta zwksza s z kadym nowym przesuncem v, co pozwala na poprawene wynków. W praktyce czsto stosuje s redukcj lczby pozomów jasnoc L, np. do L3. - -

12 ..4 Macerz spójnoc wartoc jasnoc Parametry statystyczne drugego rzdu wyznaczane s na podstawe specjalne skonstruowanych macerzy opsujcych zalenoc w przestrzennym rozkładze jasnoc par pksel w analzowanym obraze. Podejce to zostało zaprezentowane w pracy [3] znalazło szeroke zastosowane w analze obrazów (np. [96]). Macerz spójnoc jasnoc (MSJ) jest postac G(d; ) [g v (d; )], gdze element g v oznacza lczb par pksel (f j u, f kl v), które s odległe o d wyznaczaj kerunek. Najczcej przyjmuje s, e kady punkt (pksel) obrazu ma omu ssadów: w kerunku pozomym ( ), ponowym (9 ), dagonalnym (35 ) przecwdagonalnym (45 ): Rysunek.3 Ssedztwo punktów (pksel) oraz kerunk analzy dla macerzy spójnoc jasnoc Przykład. [47] Dla obrazu f o wymarze 5x5 pksel L4 pozomach jasnoc mamy macerz MSJ o L 4x4 elementach. f 3 3 G (;) Dla elementu g (;) mamy: (,) ( f, f ), ( f, f ), ( f, f ), ( f, ) g f - -

13 Otrzymane w ten sposób macerze s kwadratowe symetryczne, czyl g v (d; ) g vu (d; ). Rozmar takej macerzy równy jest lczbe pozomów jasnoc w obraze. Dla kadego kerunku analzy buduje s odpowedn macerz. Aby wyznaczy wektor cech, naley przeprowadz normalzacj wartoc MSJ wzgldem sumy wszystkch jej elementów. Po znormalzowanu otrzymujemy macerz, której elementam s prawdopodobestwa P(u,v) wystpowana w odległoc d pksel o jasnocach u v. Okrelmy 4 parametry, które bd pomocne przy wyznaczanu cech s to: - suma werszy znormalzowanej macerzy N v P ( u) P( u, v), (.6) x - suma kolumn znormalzowanej macerzy y N u P ( v) P( u, v), (.7) - rozkład sumacyjny znormalzowanej macerzy N N x+ y l) u v P ( P( u, v), gdy u + v l, l,,, (N-), (.8) - rozkład róncowy znormalzowanej macerzy N N x y l) u v P ( P( u, v), gdy u v l, l,,, (N-). (.9) Korzystajc z powyszych parametrów dla znormalzowanej macerzy mona wyznaczy 4 cech:. Drug moment zwykły N N [ P u, v ] f ( ) (.) u v. Kontrast N k f k P x ( k) (.) y - -

14 Korelacja y x N u N v y x v u P v u f σ σ µ µ 3 ), ( ) (, (.) gdze oznaczaj warto redn odchylene standardowe odpowednch rozkładów brzegowych. 4. Suma kwadratów warancja 4 N u N v v u P v u f ), ( ) ( (.3) 5. Odwrotny moment róncowy N u N v v u P v u f ), ( ) ( (.4) 6. Suma rednch + ) ( ) ( 6 N y P x f (.5) 7. Entropa sumacyjna [ ] + + ) ( ) ( ) ( 7 log N y x y x P P f (.6) 8. Warancja sumacyjna + ) ( ) ( ) ( 7 8 N y P x f f (.7) 9. Entropa [ ] 9 log N u N v v u P v u P f ), ( ), ( (.8). Entropa róncowa [ ] ) ( ) ( ) ( log N y x y x P P f (.9)

15 . Warancja róncowa ( N ) ( f f ) P x ( ) (.3) y. Korelacyjne mernk nformacj gdze: h xy f 9, N N u v f hxy h xy, (.3) max ( hx, hy ) [ ( h )] f3 exp, (.3) [ P ( v) P ( u ] h P( u, v) log ), xy N N u v x y [ P ( v) P ( u ] h P ( v) P ( u) log ), xy N v x y [ P ( v ] h P ( v) log ), x N u x x [ P ( u ] h P ( u) log ). y y y x y xy h xy 3. Maksymalny współczynnk korelacj f 4 λ max. (.33) Symbol max oznacza drug najwksz warto własn macerzy: P( u, k) P( v, k) C( u, v). (.34) P ( v) P ( u) N k x y Statystyczn klasyfkacj mona równe przeprowadz bez wyznaczana powyszych cech, na samej macerzy G, urednonej po dyskretnych kerunkach. Ne wszystke cechy maj swoje odzwercedlene w wygldze obrazu. Jedn z cech, która moe decydowa o wraenach wzrokowych, jest kerunkowy moment drugego rzdu (f), który okrela jednorodno obrazów (m wksza lczba pozomów jasnoc, tym mnejsza warto cechy, a wc dla obrazów gładkch o małych wahanach jasnoc cecha ta przyjmuje wksze wartoc). Od zakresu pozomów jasnoc zaley równe kontrast (f) przyjmuje wksze wartoc dla szerszych zakresów. Entropa za okrela stope skomplkowana obrazu m wcej szczegółów jest wdoczne w teksturze, tym wksz warto przyjmuje ta cecha

16 . Heurystyczne przekształcena obrazu W tym rozdzale zaprezentowane zostan podejca słuce do wyznaczana cech obszaru obrazu, nalece do grupy przekształce heurystycznych. Heurystyczne przekształcena przestrzen wykorzystuj, dobrze zdefnowane na potrzeby reprezentacj, funkcje matematyczne bazuj na zrozumenu problemu, eksperymentach dowadczenu. Metody te jednak ne optymalzuj adnego kryterum zalenego od danych reprezentowanych w tych przestrzenach... Heurystyczne lnowe przekształcena wzorca.. Baza ortogonalna Przekształcene ortogonalne odpowada rozwncu wzorca f(x) w ortogonalnym systeme funkcj v (x) lub rozwnce wektora pomarowego f w ortogonalnej przestrzen wyznaczonej przez wektory v ([5], [67]). c v T ϕ f ϕ f lub c f v j vj j (.) Mona powedze, e wymar wektora c jest mnejszy lub równy wymarow wektora f, ale w procese detekcj cech dymy do sytuacj, gdy wymar wektora c bdze duo nszy n wymar wektora pomarowego

17 Załómy, e stneje przekształcene pseudo-odwrotne wyraajce s wzorem: n T fˆ Φ c c ϕ, gdze ΦΦ T I (.) v v v Dymy to takej postac, dla której nastpuje mnmalzacja błdu rednokwadratowego aproksymacj f przez fˆ : T ( f fˆ ) ( f fˆ ) ε (.3) Jednym ze sposobów na wyprowadzene powyszego jest zastosowane zasady ortogonalnoc ([5], [67]). W tym przypadku otrzymujemy: Φ T ( f Φ c) ΦΦ T c Φf, c Φf, (.4) Ostatne przekształcene wynka z ortonormalnoc wektorów bazowych: µ v ϕ przecwne T ϕ v µ Wektory bazowe s wprawdze uporzdkowane, ale ch wyznaczene ne zaley od konkretnych danych, ne jest wc zupełne prawdzwe stwerdzene, e n pocztkowych współczynnków rozwnca stanow najlepsze (lub najgorsze cechy). Znanych jest wele przekształce ortogonalnych, np. Fourera, Hadamarda-Walsha, Haara [67]... Transformata Fourera (DFT) Dwu-wymarowa dyskretna transformata Fourera przedstawa s nastpujco ([85], []): M {[ ]} x M y ~ f jk ~ µ j vk F µ v DFT f jk exp π, j k M x M y gdze,, ±, ±, (.5) - 6 -

18 Dla przypadku wektorowych próbek rozpatrzona zostane -wymarowa DFT, dla której funkcja wykładncza we wzorze (.5) zostane oznaczona jako -wymarowa DFT wynos: W M π exp. Wówczas M M j jv F f W (.6) v j M ϕ W W W W mona zauway, e zachodz Przyjmujc nastpne wektor ( ) v v ( M ) v,,,..., T F T f, co jest zgodne ze wzorem (.). v ϕ v v M M M M Aby okrel cechy w przestrzen jednowymarowej DFT, przyjmujemy moduły współczynnków przekształcena Fourera jako wartoc rzeczywste: c F F v v v F * v (.7)..3 Przekształcene Walsha-Hadamarda Cgłe funkcje Walsha defnowane s rekursywne jako: wal wal ( ) ( ) v + p x; j + p wal x + ; j + ( ) ( x; ) 4 x przecwne dla j,,, oraz p,. j+ p wal x ; j 4 (.8) Funkcje zdefnowane powyej ogranczone s do dzedzny (-.5,.5). Funkcje Walsha s ortogonalne, tzn.: j k ; (.9) przecwne wal ; ( x j) wal( x k) - 7 -

19 - 8 - Przykładem dyskretnej wersj funkcj Walsha jest przekształcene Walsha-Hadamarda ([74], [84]). Wektory v otrzymujemy poprzez próbkowane funkcj Walsha w przedzale (-.5,.5), w wynku czego otrzymywane jest M q wektorów próbek. Macerz przekształcena o rozmarze M mona oblczy rekursywne z macerzy Hadamarda H H... H H H H H / M M (q czynnków). Symbol oznacza produkt Kroneckera dwóch macerzy. Przykład. Dla macerzy A o wymarach M macerzy B o wymarach m otrzymujemy macerz (Mm), np. dla H 8 : ( ) ( ) 8 H H H H H H H H Uporzdkowane macerz Hadamarda przekształcene Walsha-Hadamarda HWH zastosowane dla wzorca f o M elementach dostarcza wektor cech ( ) f f H c HWH M (.) Własnoc przekształcena HWH: - wymagane s jedyne operacje dodawana odejmowana na argumentach rzeczywstych, - wynkem przekształcena s tylko wartoc rzeczywste,

20 - stneje szybk algorytm oblczena tego przekształcena (szybka transformata Walsha [74]) podobne jak w przypadku FFT uzyskana przez faktoryzacj macerzy H M...4 Transformata falkowa Transformata falkowa [86] (ang. wavelet) funkcj f(t) w oparcu o baz *(.) w czase cgłym dana jest wzorem: t τ CWT α α ( τ, α ) f ( t) ψ * dt, (.) gdze: - oznacza współczynnk przesunca falk (wpływa na połoene na os czasu), - oznacza współczynnk skal falk (wpływa na czas trwana) - oznacza funkcj falk bazowej. Współczynnk nterpretuje s jako mar podobestwa do danego fragmentu analzowanego sygnału. Czynnk normalzuje wynk tak, aby na kadym pozome α kady transformowany sygnał mał t sam energ. W odrónenu od wczenej wspomnanych transformat Fourera Walsha-Hadamarda, które charakteryzuj s równomernym podzałem płaszczyzny spektrogramu, transformata falkowa dzel przestrze wyznaczon przez czas czstotlwo w sposób logarytmczny. Rysunek. Podzał płaszczyzny spektogramu w przekształcenach: (a) - DFT, (b) - WT

21 Transformata odwrotna dla wzoru (.) wyglda nastpujco: t τ dτd ψ cψ α α α α f, (.) ( t) CWT ( τ α ) Mona powedze, e f(t) jest splatana z funkcj. Funkcja (t) mus spełna nastpujcy warunek zwzany z jej transformat Fourera (): ( ω) Ψ c ψ dω < ω (.3) Warunek ten jest spełnony, jel () lub równowane ( t) dt ϕ. W celu uzyskana dyskretnej transformaty falkowej, współczynnk s próbkowane tak, aby falka bazowa mogła by skalowana przesuwana tylko w dyskretnych krokach. W rezultace otrzymujemy dla jednowymarowej dyskretnej transformaty falkowej: j n kτ α DWT ( j, k) x( n) Ψ, j j (.4) α n α gdze oraz j s lczbam całkowtym dodatnm. Schemat tworzena -wymarowej dyskretnej transformaty falkowej DWT wyglda nastpujco:. Przy pomocy -wymarowej DWT przekształcane s wszystke wersze obrazu. W ten sposób powstan dwa blok współczynnków o tej samej lczbe werszy połowe kolumn, co orygnalny obraz.. Wszystke kolumny obu bloków współczynnków przekształcane s przez -wymarow DWT. W ten sposób powstaj 4 blok współczynnków, kady o połowe lczby werszy kolumn orygnalnego obrazu. 3. Proces przekształcana opsany w punktach.. naley powtarza do uzyskana 4 bloków o tylko jednym współczynnku. - -

22 Powyszy proces mona zacz poprzez przekształcene kolumn orygnalnego obrazu dalej postpujc analogczne. Przykłady zastosowa falek w analze tekstur mona znale w [8] oraz [9]. Dla obrazów w skal szaroc włacwoc tekstury okrelane s na podstawe wartoc energ dyskretnej transformaty falkowej. Technka ta moe by równe rozszerzona na obrazy barwne...5 Funkcje Gabora Funkcja Gabora to lnowe przekształcene obrazu x o postac: ŝ H x, H [ h ( x, y),..., h ( x, y) ] n (.5) Funkcje bazowe dla,, n dane s jako: [ q( x, y), w( x, y) ] cos( πf q( x y) ) h x, y) g,, (.6) ( gdze: ( ) x y g x, y exp +, σ x σ y x, y cos Φ x + sn, ( ) ( ) ( Φ )y ( x y) sn( Φ ) x + cos( )y q w Φ,. (.7) W powyszych wzorach oznacza kt obrotu wzgldem os X, natomast f czstotlwo podstawow, a rodek oscylacj znajduje s w rodku przekształcanego obszaru obrazu. Mona nterpretowa funkcje Gabora jako detektory krawdz o rónych (dyskretnych) orentacjach rónych czstotlwocach. Funkcje Gabora przyjmowane s unwersalne nezalene od zastosowana, w tym równe w analze tekstur [4]. - -

23 .. Ops tekstury w MPEG-7 (deskryptory) W tym rozdzale zostane zaprezentowane podejce do opsu tekstury bazujce na funkcjach Gabora, a przewdzane w standardze MPEG-7, zgodne z dokumentam [8] oraz [6]. Celem MPEG-7, znanego równe jako Multmeda Content Descrpton Interface, jest standaryzacja opsu obektów multmedalnych. MPEG-7 proponuje trzy podejca do opsu tekstury (tworzena tzw. deskryptorów ). Wynkaj one z rónych sposobów nterpretacj danych obrazu, std te znajduj zastosowane w odmennych przypadkach. Podstaw wyznaczana ch parametrów s funkcje Gabora.. Deskryptor tekstury jednorodnej, dalej oznaczany jako HTD (Homogeneous Texture Descrptor), opera s na włacwocach statystycznych obrazu, reprezentowanych jako 6-elementowy wektor. Wektor ten wyznaczany jest na podstawe odpowedz fltru Gabora dla 3 kanałów czstotlwoc obrazu.. Kolejny deskryptor standardu deskryptor przegldana tekstury TBD (Texture Brownng Descrptor) równe wyznacza s na podstawe odpowedz fltrów Gabora dla kanałów czstotlwoc. Jego parametry za odpowadaj percepcyjnemu, zblonemu do ludzkego, postrzeganu tekstury. W testach wykorzystywany jest tzw. PBD Perceptual Brownng Descrptor, który zawera nformacj o regularnoc, kerunkowoc porowatoc wzorca. 3. Trzec z proponowanych przez MPEG-7 deskryptorów, deskryptor hstogramu krawdz EHD (Edge Hstogram Descrptor) to 8-punktowy hstogram reprezentujcy rozkład krawdz w obraze. Wykorzystywany jest przewane do analzy zman sceny w sekwencj obrazów. Podczas wczenejszych prac autorka przebadała uyteczno tych trzech deskryptorów. W wynku testów stwerdzono, e deskryptory HTD, PBD lub ch kombnacje s uytecznym narzdzem w analze tekstur. Deskryptor EHD pomnto jako dajcy najmnej stotne wynk. Badana nad wykorzystanem włacwoc deskryptorów MPEG-7 były prowadzone w ramach grantu KBN nr 7TO8A56 ([9], [9]). - -

24 .. Wyznaczane energ Poszczególne elementy deskryptorów tekstury wyznaczane s na podstawe rozkładu czstotlwoc w analzowanym obraze. Przestrze czstotlwoc dzelona jest na równe obszary o szerokoc 3 stopn w kerunku ktowym oktawy w kerunku begunowym. Obszary te nazywane s kanałam własnoc. Podyktowane to jest sposobem postrzegana przez mózg, który dokonuje dekompozycj całego spektrum na pasma percepcj. Rysunek. Schemat rozkładu czstotlwoc dla 3 kanałów. W przestrzen znormalzowanej czstotlwoc rodkowe kadego kanału wyznaczane s według wzoru o θ 3 r, gdze r 5 jest ndeksem ktowym, natomast szeroko r ktowa wszystkch kanałów jest równa 3 stopnom. W kerunku begunowym czstotlwoc ktowe wyraane s zalenoc ω ω s s, s 4, 3/4. Do kadego z kanałów stosowana jest dwuwymarowa funkcja Gabora: G P ( ω ω s ) ( θ θ r ) ( ω, θ ) exp exp (.8), r σ ρ σ s θ r s gdze s- ndeks kanału w kerunku begunowym, r ndeks kanału w kerunku ktowym. Zmenne s r oznaczaj standardowe odchylene w kerunku ktowym lub begunowym, w mejscu zetknca s ssednch fltrów w połowe maksmum. W kerunku ktowym - 3 -

25 odchylene standardowe ma stał warto równ σ θr 5 ln, natomast w kerunku begunowym dana jest zaleno: B s σ ρ (.9) s ln gdze B s B s, B / jest szerokoc pasma kanału w kerunku begunowym. Na podstawe rozkładu czstotlwoc funkcj Gabora wyznaczana jest energa e -tego kanału własnoc: p [ ] e log +, p 36 [ GPs, r ( ω, θ) P( ω, θ) ] ω + θ + (.) oraz odchylene standardowe energ q [ ] d log +, q 36 { [ GPs, r ( ϖ, θ) P( ϖ, θ) ] p } ϖ + θ + (.) gdze P(,) oznacza transformat Fourera obrazu w begunowej dzedzne czstotlwoc [75]... Deskryptor tekstury jednorodnej Deskryptor ten opsuje włacwoc statystyczne tekstury wyznaczany jest według schematu omówonego w poprzednm punkce. Deskryptor ten moe składa s z 3 lub 6 elementów, w zalenoc od tego, czy brana jest pod uwag podstawowa płaszczyzna własnoc czy płaszczyzna rozszerzona. HTD[a, sd, e, e,..., e3, ed, ed,..., ed3] (.) - 4 -

26 Perwsze dwa reprezentuj redn ntensywnoc pksel obrazu a z zakresu 55 oraz odchylene standardowe sd. Nastpne stanow 3-elementow tablc zawerajc wartoc energ e wyznaczone dla kadego z kanałów własnoc. Ostatne 3 elementów to tablca wartoc odchylena standardowego energ ed dla kanałów własnoc. Wartoc te wyznaczane s, gdy brana jest pod uwag rozszerzona płaszczyzna własnoc. Deskryptor HTD wykorzystywany jest przy wyszukwanu precyzyjnym. Podobestwo mdzy obrazam merzone jest jako odległo mdzy wektoram własnoc: d( TD query, TD database ) dst( TD query, TD datatbase ) k TD query ( k) TD α( k) database ( k) (.3) gdze (k) jest odchylenem standardowym TD database (k) dla danej bazy (moe by równe ustalane). Proponowane s cztery sposoby porównywana [59]: - nezalene od ntensywnoc z wektora własnoc HTD usuwany jest perwszy element; - nezalene od rotacj wektor własnoc obrazu obróconego jest przesunt ktowo wersj dla obrazu referencyjnego; wówczas odległo wyznaczana jest jako najmnejsza z otrzymanych w wynku przesunca; - nezalena od skal dla N molwych wersj przeskalowanego czynnka odległo wyznaczana jest jako najmnejsza z uzyskanych; - nezalene od obrotu skalowana odległo wyznaczana jest jako najmnejsza ze wszystkch molwych kombnacj skalowana obrotu. Testy przeprowadzone członków grupy MPEG-7 wykazały du skuteczno tego deskryptora ([], [97]). Jako mar efektywnoc stosuje s ARR (Average Retreval Rate wska nk rednej lczby prawdłowo odnalezonych obrazów). Prezentowane w dokumence M549 ([79]) wynk utrzymuj s na pozome ARR powyej 7 dla baz zawerajcych obrazy rónych tekstur zdefnowanych w MPEG-7 CE (Core - 5 -

27 Experments). W przypadku, gdy pod uwag brana jest rozszerzona płaszczyzna własnoc (deskryptor HTD zawera oprócz energ wektor wartoc odchylena standardowego) nastpuje poprawa wska nka ARR. Dokumenty [76] oraz [5] omawaj wynk eksperymentów dla deskryptora tekstury jednorodnej przebrowadzone na baze 83 obrazów tekstury. Jako zapytane pobrano arbtralne 5 obrazy, które poddano obróbce, wycnajc odpowedn kształt. W efekce uzyskano dodatkowe trzy zbory tekstury o kształce prostokta, rombu (damentu) koła. Ponsza tabela przedstawa wynk trzech eksperymentów. Tabela. Przykładowe wynk testów dla wzorców HTD o rónym kształce (wska nk ARR) Zbór zapytana Wypełnane Czarne tło Inna tekstura Orygnały Kształt prostokta Kształt koła Kształt rombu Kolumny odpowadaj kolejnym eksperymentom. W perwszym tło obrazów zostało wypełnone danym ze rodka obszaru tekstury. W drugm pozostało one czarne. W trzecm eksperymence tło zostało wypełnone nna tekstur. Przedstawaj to rysunk ponej: (ITD.) (b) (c) (d) (e) (f) Rysunek.3 Przykłady wzorców o rónych kształtach: (a) - orygnał, (b) - wzorzec prostoktny na czarnym tle, (c) - wzorzec prostoktny na tle wypełnonym zawartoc tektury wzorca, (d) - wzorzec prostoktny na tle wypełnonym nn struktur, (e) - wzorzec okrgły, (f) - wzorzec rombodalny. Najlepsze wynk uzyskano dla obrazów orygnalnych warto wska nka ARR utrzymywała s powyej 85. Dla wszystkch typów obrazów pogorszene nastpło przy zmane tła, przy czym najgorsze wynk dało wypełnene tła nn tekstur dla tekstur o wyznaczonych kształtach wska nk ARR spadł ponej 5. Pogorszene wynków spowodowane jest faktem wykonywana operacj fltrowana na grancach obszarów

28 ..3 Deskryptor przegl dana tekstury Deskryptor ten odpowada percepcyjnemu, zblonego do ludzkego, charakteryzowanu tekstury. Operuje takm termnam jak regularno, porowato, kerunkowo. Wyznaczane, podobne jak w przypadku HTD, odbywa s poprzez fltracj za pomoc fltrów Gabora, przy czym mamy 4 zamast 5 ndeksów s. Wykonywana jest dekompozycja obrazu kady z otrzymanych w jej wynku obrazów zawera nformacj w okrelonej skal kerunku. Na tej podstawe wyznaczany jest wektor TBC ( Texture Browsng Component), okrelajcy regularno lub jej brak we wzorcu. Kolejne elementy wektora TBC [v v v3 v4 v5] (.4) oznaczaj: - regularno v reprezentuje stope regularnoc obrazu (m wksza warto, tym bardzej regularny wzorzec); - kerunkowo (v, v4) dwa kerunk domnujce tekstury; - skala (v3, v5) dwe domnujce wartoc, zalene od stopna regularnoc wzorca. Kerunkowo oparta jest na hstogramach wyznaczanych ze zboru przefltrowanych obrazów w rónych skalach, zdefnowanych wzorem: H ( s, k) 5 N( s, k) N( s, k) (.5) dla s,...,3 k,...,5. N(s, k) oznacza lczb pksel w fltrowanym obraze w skal s kerunku k, których natene jest wksze n dany próg t s. Jako kerunek (kerunk) domnujcy wyberany jest ten, którego werzchołek jest w H(s, k), równe dla ssednch wartoc skal. Jako elementy wektora TBC zapsywane s dwa kerunk DO DO najwkszego kontrastu (w nektórych przypadkach moe by okrelony tylko jeden kerunek)

29 W celu wyznaczena skal okrelane s dwe projekcje ([58], [6]) dla kadego przefltrowanego obrazu W mn (x, y) wzdłu kerunków domnujcych DO DO: P P l) W ( x, y) δ( x cos θ mn H ( mn DO DO ) l) W ( x, y) δ( x cos θ mn V ( mn DO DO ) + y sn θ l dxdy (.6) + y sn θ l dxdy (.7) Nastpne dla kadej ze zboru projekcj (dla obu kerunków domnujcych) wyznaczana jest znormalzowana funkcja autokorelacj NAC (Normalzed Autocorrelaton Functon) [6]: m k N P( m k) P( m) m k NAC ( k) N N (.8) P ( m k) m k P ( m) gdze P(l) oznacza wybran projekcj dla danego kerunku domnujcego. Nech M N maksma mnma funkcj NAC(k), natomast p_magn() oraz v_magn() (,,, M) - wartoc lokalnych mnmów maksmów.wówczas K M M N p _ magn( ) v _ magn( j) (.9) N j wyznacza kontrast. Na podstawe sekwencj werzchołków p_pos() wyznaczane s odległoc mdzy werzchołkam ds oraz odchylene standardowe std. Nech std/ds. Jel warto ta jest mnejsza od załoonego progu, dan projekcj uwaa s za regularn. Po usuncu pozostałych wyznacza s projekcje o najwkszym kontrace. Przyjmujc m*(h) jako ndeks skal projekcj o najwkszym kontrace m*(v) skala projekcj o najmnejszym kontrace, elementy wektora TBC wyznaczane s jako: v3 m*(h) oraz v5 m*(v) (.3) Przy wyznaczanu regularnoc stosowane s specjalne załoena dla tych projekcj, które przeszły test regularnoc omawany powyej. Dla tekstur jednorodnych kandydac - 8 -

30 (projekcje) s ssadam w danej przestrzen. Kandydatów dzel s na trzy grupy przydzela s m na tej podstawe kredyty V. Perwsza grupa okrela tych, dla których mona znale co najmnej jednego nnego kandydata odpowadajcego w ssednej skal lub kerunku. Kredyt wynos wówczas V.. Nastpn grup stanow projekcje, dla których stneje odpowedn kandydat dla takej samej skal lub kerunku, ale ne ma ch dla skal (kerunków) ssednch. Grupe tej przyznaje s kredyt V.5. Ostatn zbór to kandydac, którzy s jedyn dla swojej skal kerunku przyznany kredyt wynos V 3.. Jako warunek okrelajcy regularno przyjmuje s sum kredytów dla zboru kandydatów w obu domnujcych kerunkach: 3 M N V (.3) gdze N okrela lczb kandydujcych projekcj. Wówczas v jel M < 5, v jel 5 M <, v jel M <, v 3 jel M (.3) Im wysza warto parametru v, tym bardzej regularna struktura. Ponszy rysunek przedstawa przykładowe tekstury dla okrelena stopna regularnoc. v3 v v v Rysunek.4 Przykłady tekstur o rónym stopnu regularnoc wzorca (od lewej - zmnejszajcy s stope regularnoc) TBD wykorzystywany jest do zgrubnego wyszukwana obrazów o podobnych włacwocach, moe wc słuy do tworzena zboru kandydatów przy wyszukwanu precyzyjnym. Z tego wzgldu uywa s go w kombnacj z deskryptorem tekstury jednorodnej HTD. Wyznaczane podobestwa dla obrazów z baz MPEG-7 XM omawa dokument M59 [59]. Podane wynk dotycz deskryptora, który oprócz wektora TBC zawera wektor SRC, o elementach okrelajcych perwszy drug moment przefltrowanych obrazów. Osgnto - 9 -

31 wynk powyej 7% prawdłowo odnalezonych obrazów, przy czym porównana obrazu zapytana samego z sob były pomjane. Dla tekstur z albumu Brodatz'a osgnto wynk 99.96%. Dokument M5449 omawa wynk przeszukwana dla podobne zbudowanego deskryptora (zawerajcego wektory TBC SRC). Baz stanowły wzorce z albumu Brodatz'a. Kady ze 66 wzorców został podzelony na 4 podobrazy, obrócony. Obrazy podzelone zostały na dwe grupy w okrelonym dwoma kerunkam domnujcym z jednym kerunkem domnujcym. Podzał tak słuył zbadanu, jak detekcja kerunku wpływa na ludzka percepcj. W przypadku perwszej grupy lepsze wynk (98 % znalezonych) osgnto przy porównywanu dla perwszego kerunku domnujcego (88% dla drugego). Dla drugej grupy, z pojedynczym kerunkem domnujcym osgnto wynk % (zobacz [76])...4 Deskryptory tekstury w analze obrazów Na potrzeby pracy wykonano ser testów dotyczcych analzy tekstury w obrazach angografcznych. Zastosowano połczene omawanych deskryptorów ([6], [78]).Szczegółowe wynk zostan omówone w dalszych rozdzałach. Ze wzgldu na precyzj wyszukwana przyjto pełne wersje deskryptorów, to jest 6 elementowy deskryptor tekstury jednorodnej (dodatkowe wyznaczane odchylena energ) oraz 5-elementowy deskryptor przegldana tekstury (dwa kerunk domnujce zamast jednego). W tej sytuacj funkcja podobestwa rozumana jako odległo mdzy elementam poszczególnych zborów cech wyglda nastpujco (ndeks q zapytane, ndeks db wzorzec): - dla deskryptora tekstury jednorodnej d + HTD ( TD,TD ) *. abs(td 5 4 s r q db db [ ] TD {m[ r] abs(td. 8 abs(td db q [ ]) + [ ] TD q db [ ] TD [ ]) + [ j]) + d[ r] abs(td q db [ j] TD q [ j])} (.33) gdze s+r+; js+r+3; - 3 -

32 - dla deskryptora przegldana tekstury d TBD ( TD,TD ) db +. {. 5 [ abs(td +. {. 5 [ abs(td q. 6 abs(td db db [ ] TD [ ]) + [ ] TD [ ]) + abs(td q [ 3] TD [ 3]) + abs(td q db q db [ ] TD [ ])} + db [ 4] TD [ 4])} q q (.34) Wartoc elementów tablc współczynnków m d we wzorze (.3) okrelone s w kodze MPEG-7 Expermentaton Model, podobne jak pozostałe wag we wzorach (.3) (.33). Symbol TD db okrela wektor cech (tzw. deskryptor ) referencyjny, TD q wektor cech obszaru analzowanego, natomast abs oznacza warto bezwzgldna wyraena podanego jako parametr. Indeksy okrelaj kolejno elementów w wektorze cech (6 dla deskryptora tekstury jednorodnej 5 dla deskryptora przegldana tekstury). Wartoc dst HTD dst TBD s nastpne sumowane porównywane do wartoc progowej. Warto ta naley do przedzału (.5,.8), wyznaczonego w trakce eksperymentów

33 3. Analtyczne przekształcena obrazu Rozdzał ten omawa trzy główne sposoby pozyskwana przekształce przestrzen reprezentacj obrazu, które, krytera odrónenu od przedstawonych w rozdzale przekształce heurystycznych, optymalzuj krytera oparte na próbkach (danych) uczcych charakteryzujcych dzedzn zastosowana. 3.. Przekształcene PCA Po faze ekstrakcj otrzymujemy pewne skupsko punktów. Jednym ze sposobów jego reprezentacj jest rzutowane ortogonalne na podprzestrze lnow. Analza składowych głównych PCA (ang. Prncpal Component Analyss) polega na przetworzenu duej loc nformacj zawartej we wzajemne skorelowanych danych wejcowych na zbór nowych, ortogonalnych wzgldem sebe cech [99]. W nektórych opracowanach nazywana jest ona równe (dyskretn) transformat Karhunena-Loevego. Dla wektora cech N x R znajdowana jest baza podprzestrzen, dla której warto oczekwana normy róncy mdzy wektorem x a jego rzutem na t podprzestrze osga mnmum. Innym słowy, przekształca dany wektor x na wektor K y R za porednctwem macerzy W R K N, K<N. Nowa przestrze o zredukowanym wymarze zachowuje nformacje dotyczce procesu, zatem metoda PCA moe by uznana za form kompresj danych ([86], [3], [8]). Wektory macerzy W nazywane s naczej składowym głównym, a ch lczba jest równa wymarow szukanej podprzestrzen lnowej

34 Warunkem na to, by zbór wektorów skupska X tworzył podprzestrze lnow jest odjce od kadego wektora wartoc rednej tego zboru, czyl spełnene warunku: [ X ] E (3.) Dla danego skupska X o wymarze N szukana jest podprzestrze S o wymarze < K < N taka, e oczekwana warto długoc róncy wektora (skupska) X jego rzutu jest mnmalna: ( X ) mn E X PS, (3.) gdze P S (x) oznacza projekcj wektora x na podprzestrze S ([87], [88]). Mona zauway, e poszukwane podprzestrzen mnmalzujcej oczekwany błd projekcj (3.) jest równowane poszukwanom podprzestrzen maksymalzujcej warancj projekcj [6]: E E X P X E S ( X ) [ X ] E P ( X ) E[ X ] S, (3.3) Nech X[x, x,, x n ] T oznacza wektor losowy o zerowej wartoc rednej, a R xx E[xx T ] warto redn macerzy autokorelacj po wszystkch wektorach x. Nech W [W, W,, W N ],,,, N oznacza ortogonalne wektory własne odpowadajce wartocom własnym λ macerzy R xx. Mona zdefnowa przekształcene PCA ywx (3.4) poprzez uszeregowane wartoc własnych macerzy kowarancj malejco λ <λ < < λ N wybór z tej grupy jedyne K najwkszych wartoc macerzy W. Mnmalzacj wartoc oczekwanej błdu rekonstrukcj otrzymuje s dla bazy przestrzen, której wektory w spełnaj warunek: cov( X ) w λw,,, N λ <λ < < λ N (3.5)

35 gdze cov(x) jest macerz kowarancj skupska X, a λ -t wartoc własn tej macerzy. Mona wyznaczy równe wektory własne macerzy kowarancj bez wyznaczana samej macerzy kowarancj. Metoda ta korzysta bezporedno z wektorów wejcowych (skupska) ([6], zobacz take [83], [89]). Rysunek 3. PCA: Składowa główna próbek w dwuwymarowej przestrzen cech. Lna wskazuje kerunek perwszej składowej głównej, druga składowa główna jest prostopadła (w ogólnoc - ortogonalna). 3.. ICA Podstawowym zastosowanem metody ICA (ang. ndependent component analyss) jest estymacja welu sygnałów ródłowych jedyne na podstawe obserwacj ch meszann. Ne jest wymagana adna nformacja an o kerunku ródła, an o warunkach pomaru. Zakłada s, e obserwowany n-wymarowy sygnał wektorowy x(t) jest wynkem "punktowego" (neznanego) wymeszana m nezalenych statystyczne (neznanych) sygnałów ródeł s(t) ([34], [35]): m T x ( t) As( t) + n( t) s ( t)a + n( t), (3.6) gdze T a oznacza -ty wersz macerzy A. Celem ICA jest jednoczesna estymacja neznanych ródeł m n wymarowej macerzy separujcej W(t) takej, e m-wymarowy wektor:

36 y(t) W(t) x(t) (3.7) staje s (z dokładnoc do skal permutacj sygnałów) aproksymacj neznanych ródeł. Z punktu wdzena zapsu matematycznego wykorzystuje ona równe lnowe przekształcene przestrzen wektorowej, podobne jak transformata Fourera, Hadamarda, transformata kosnusowa tp. Jednak w ICA nastpuje kadorazowa estymacja przekształcena w oparcu o same dane pomarowe - uzyskane w ten sposób przekształcene jest dopasowane do aktualnego problemu (zastosowana). Znanych jest szereg algorytmów do ICA. Zasadncze krytera ch zróncowana to: - algorytm pracujcy w trybe "wsadowym" lub adaptacyjny algorytm typu "on-lne", - algorytm wymagajcy obróbk wstpnej lub algorytm jedno-przebegowy. Najbardzej znane algorytmy do ICA to: - C. Jutten, 99 (hstoryczne -szy algorytm oparty jedyne o dekorelacj wyszego rzdu) [44], - P. Common, 994 (defncja pojca ICA ) [9], - J. Cardoso, (algorytm Jade ICA - "wsadowy") ([9], []), - Cchock et al., 994 (adaptacyjny algorytm typu on-lne ) ([4], [5], [7]), - T. Bell & T. Sejnowsk, 995 (algorytm Infomax ICA ) ([5], [6]), - S. Amar et al., (adaptacyjny algorytm Natural gradent ICA ) ([], [3]), - Hyvarnen, E.Oja, J. Karhunen, 998- (algorytm Fast ICA - "wsadowy") ([7], [7]). W dalszej czc pracy omawany bd jedyne przypadk lnowe ICA, cho w lteraturze mona spotka przykłady nelnowych zastosowa ICA ([9], [44]). Pomnte zostan równe przypadk sygnałów zaszumonych. Podstawy (warunk) modelu ICA s nastpujce [36]:. Wszystke komponenty nezalene s musz me rozkład ne-gaussowsk z dokładnoc do jednego elementu.. Lczba obserwowanych meszann lnowych m mus by co najmnej równa lczbe komponentów nezalenych n, czyl m n

37 3. Jeel macerz meszajca A ma wymary m n, to mus by rzdu n. Dodatkowo zakłada s, e wektory x s s wyrodkowane (mona to uzyska poprzez odjce wartoc rednej wektora). Defncja ICA, w odrónenu od PCA, ne zakłada sortowana składowych nezalenych, ale mona take sortowane zastosowa (np. wykorzystujc normy kolumn macerzy meszajcej). Nech p(y,y ) oznacza gsto rozkładu łcznego zmennych y y, a p (y ) p (y ) gsto rozkładu brzegowego dla y dla y odpowedno. Zmenne losowe y y s nezalene wtedy tylko wtedy, gdy: p(y,y ) p (y ) p (y ). (3.8) Dla dwóch funkcj nezalenych zmennych losowych h h zachodz: { h y ) h ( y )} E{ h ( y )} E{ h ( )} E. (3.9) ( y Dwe zmenne y y s zdekorelowane, jel ch kowarancja jest zerowa: { y y } E{ y } E{ y } E. (3.) Zmenne nezalene s jednoczene zdekorelowane, ale ne na odwrót. Np. nech (y,y ) s dyskretnym zmennym o prawdopodobestwe /4 dla wartoc (,), (,-), (,), (-,). Wtedy y y s zdekorelowane. Ale jednoczene zachodz E { y y } E{ y } E{ y } czyl zmenne ne s nezalene., 4 Dwe zmenne Gaussowske ne mog by odseparowane w modelu ICA. Meszanny dwóch zmennych Gaussa wymeszane ortogonaln macerz zachowuj rozkłady Gaussa. Gsto rozkładu łcznego dwóch meszann jest wtedy w pełn symetryczna - ne zawera ona adnej nformacj o kerunku wektorów w macerzy meszajcej. Taka macerz ne moe zosta znalezona w analze ICA jest to podstaw warunku numer

38 Dla sygnałów nezaszumonych ICA moe by uznana za przypadek projecton pursut oznacza wtedy wyszukwane pewnych nteresujcych projekcj, które mog estymowa składowe nezalene ([5], [3], [98]). Równe due podobestwo mona znale w przypadku lepego rozplatana ([5], [48]) oraz analzy czynnkowej (rozdzał 3.3). Mona te zauway powzana z analz składowych głównych, nemnej jednak ne naley uznawa ICA za rozszerzene PCA. PCA ma due znaczene w przypadku redukcj wymarów, natomast w przypadku ICA moemy me do czynena zarówno z redukcj, zwkszenem lub brakem zman, jel chodz o wymary wektorów. Powzana z nnym metodam przedstawa ponszy rysunek [36]: Rysunek 3. Lne przedstawaj powzana mdzy wybranym metodam. Opsy obok ln mów o wymaganach, które musz by spełnone, by relacja była prawdzwa. Klasycznym przykładem zastosowa ICA jest lepe rozplatane wzorców (blnd source separaton) [46] Analza czynnkowa (factor analyss) Analza czynnkowa (ang. factor analyss) to metoda słuca do odnajdywana struktur w zborze zmennych losowych ([3], [5]). Celem analzy czynnkowej jest zredukowane duej lczby zmennych do mnejszego zboru. Istnej dwa podejca: - eksploracyjna analza czynnkowa EFA (Exploratory Factor Analyss): czynnk s pocztkowo neznane zostaj wyodrbnone dzk analze wartoc zmennych - konfrmacyjna analza czynnkowa CFA (Confrmatory Factor Analyss) zakładamy stnene pewnego okrelonego zboru czynnków dzk analze wartoc zmennych

39 losowych badamy zasadno naszego przypuszczena estymujemy parametry modelu. Zakładany jest nastpujcy model danych: x As + n, (3.) gdze x jest wektorem obserwowanych zmennych, s wektorem ukrytych zmennych (czynnków), których ne mona zaobserwowa. A jest macerz o wymarach m n, a wektor n reprezentuje szum. Wektory x n maj ten sam wymar n, natomast zazwyczaj zakłada s, e s ma wymar nszy od x. Porównujc wzory (3.) (3.6) łatwo zauway powzane z ICA, natomast borc pod uwag redukcj wymarów mona porównywa analz czynnkow z PCA. Istnej dwe główne metody analzy czynnkowej. Perwsz z nch jest analza czynnków głównych PFA (Prncpal Factor Analyss), która stanow modyfkacj PCA. Idea polega na zastosowanu PCA do danych x w tak sposób, by uwzgldn wpływ zaszumena. Innym słowy zakłada s, e macerz kowarancj szumu jest znana. Czynnk znajdowane s poprzez wykonane PCA z wykorzystanem zmodyfkowanej macerzy kowarancj powstałej w wynku odjca od macerzy kowarancj x macerzy kowarancj n. W ten sposób wektor s uzyskuje s jako wektor składowych głównych x po usuncu szumu. Druga popularna metoda moe by sprowadzona do wyznaczana składowych głównych na zmodyfkowanej macerzy kowarancj

40 4. Detekcja cech dzk dekompozycj ICA W tym rozdzale przedstawona zostane autorska metoda detekcj cech tekstury wykorzystujca dekompozycj przestrzen reprezentacj znalezon dzk przekształcenu ICA 4.. Ops metody Podstaw stosowana algorytmów ICA w analze obrazów jest załoene, e dany obraz mona przedstaw w postac sumy waonej obrazów składowych ([3], [43], [3]). Obrazy składowe s statystyczne nezalene. a a a m x s s s m Rysunek 4. Ilustracja składana tekstury obrazu z nezalenych składowych: x - obserwowany -ty blok obrazu; a współczynnk wymeszana ródeł (tu: wartoc cech obserwowanego bloku obrazu); s, s,..., s m, - ródła w ICA (ch -wymarowa lustracja) nezalene składowe (wektory bazowe) Prostoktne blok obrazu (kady o rozmarze k l N) traktowane s jako meszanny m nezalenych składowych ( ródeł w modelu ICA). Blok te s skanowane w ustalonym z góry porzdku do postac sygnałów x (t) (,..., n; t,..., N). Zakładamy, e te sygnały (zebrane w wektor x(t) ) spełnaj model punktowego meszana przyjty w ICA:

41 m T x ( t) As( t) s ( t)a. (4.) Czyl x(t) jest wektorow reprezentacj obserwowanych bloków obrazów (jest to wektor n sygnałów, kady z nch o długoc N k l, jako wynk skanowana bloków obrazu). {a } to n wektorów cech (kady o długoc m) tworzcych wersze macerzy (meszajcej) A (kady wersz stanow wartoc cech, poszukwane dla opsu tekstury w obserwowanym bloku obrazu). {s } to m N-elementowych sygnałów ródeł jak na rysunku powyej. Dysponujc obserwacjam danym w postac kolejnych bloków obrazu x (t) stosujemy algorytm ICA pozwalajcy na jednoczesn estymacj neznanych nezalenych składowych s pewnej macerzy W. Po "zamroenu" macerzy W okrelany jest ostateczny wektor wyjcowy y tak, e: ŝ y W x W A (4.) Macerz W znalezona w procese nauczena systemu składowych nezalenych ne jest dalej brana pod uwag. Dopero w faze aktywnej pracy systemu detekcj cech tekstury celem jest ustalene dla kadego analzowanego bloku obrazu jego wektora cech a. Ten problem sprowadza s do standardowego problemu dentyfkacj kanału przesyłowego o wejcu s wyjcu x. Podsumowujc własnoc metody ICA w procese opsu tekstury obrazu: - ICA znajduje najbardzej ne-gaussowsk dekompozycj obrazu; - funkcje bazowe ( ródła s) s dopasowane do konkretnej klasy obrazów; - wektory s posadaj naturaln nterpretacj po przekształcenu ch w blok obrazu - s detektoram krawdz w obraze - nteresujcy aspekt dla bologcznych bada percepcj człoweka. Aby uzyska redukcj rozmaru przestrzen cech w stosunku do rozmaru orygnalnego bloku obrazu, naley zastosowa obróbk wstpn typow dla kompresj obrazu, np. w postac PCA. Dla przykładu blok o rozmarze x prowadz do wektora obserwacj o długoc - 4 -

42 44; w procese PCA mona wybra np. 5 najwkszych składowych głównych, dokona kompresj wektorów x do rozmaru 5 x znale w procese ICA macerz W o rozmarze 5 x 5. Oczywce w celu -wymarowej lustracj wektorów bazowych (werszy macerzy W) naley najperw przywróc kady 5-elementowy wektor do postac 44-elementowego wektora dopero wtedy zamena je na blok x -elementowe 4.. Proces uczena wektorów bazowych 4.. Przetwarzane wstpne Przypomnjmy, e w przypadku algorytmów ICA mówmy o zmennych nezalenych (zob. rozdzał 3.). Dwe zmenne Gaussowske ne mog by odseparowane w modelu ICA. Meszanny dwóch zmennych Gaussa wymeszane ortogonaln macerz zachowuj rozkłady Gaussa. Gsto rozkładu łcznego dwóch meszann jest wtedy w pełn symetryczna - ne zawera ona adnej nformacj o kerunku wektorów w macerzy meszajcej. Taka macerz ne moe zosta znalezona w analze ICA. W celu uproszczena algorytmów ICA stosuje s usuwane wartoc rednej. Nech m bdze wektorem wartoc rednch wektora obserwacj x(t). Po estymacj sygnałów wyjcowych w ICA ch wymagane wartoc redne mog zosta odtworzone jako: A m, (4.3) gdze A- jest odwrotnoc macerzy meszajcej (okrelonej w procese ICA). Stosowane jest równe wybelane (ang. whtenng, ortogonalzacja). Jest to lnowe przekształcene wektora tak, aby poszczególne składowe obserwowanego wektora były neskorelowane posadały jednostkowe warancje: [ ~ ~ T xx ] I E. (4.4) Wybelene próbek mona przeprowadz np. dzk dekompozycj na wektory własne macerzy kowarancj próbek (EVD)